Offene Gewichte von Mistral Large 4 ändern die Hosting-Entscheidung, nicht die Hardwarekosten

TL;DR: Mistral veröffentlichte am 29. Oktober die herunterladbaren Gewichte von Large 4. Die öffentliche API-Vorschau hatte bereits am 6. Oktober begonnen.^[1][2] Das Modell besitzt rund 1,05 Billionen Parameter insgesamt. Laut Mistral werden pro Token 49 Milliarden ohne Einbettungs- und Ausgabeschichten aktiviert; die offizielle Inferenzanleitung nennt etwa 610 GB NVFP4- oder 1,06 TB FP8-Gewichte.^[4][9] Bei API-Preisen von 0,70 US-Dollar je Million Eingabe- und 2,10 US-Dollar je Million Ausgabetokens ist der Download eine Entscheidung über Kontrolle, keine automatische Kostenersparnis.^[5]

Die eigentliche Nachricht ist nicht, dass ein Modell dieser Größenordnung plötzlich auf einem Laptop läuft. Käufer können nun entscheiden, ob Mistral, ein Cloud-Partner oder die eigene Infrastruktur ein Modell betreibt, das zuvor in diesem Monat über eine öffentliche API-Vorschau zugänglich war. Mistral kündigte am 6. Oktober offene Gewichte bis Monatsende an. Die Veröffentlichung vom 29. Oktober folgte nach weiterer Arbeit während der Vorschau.^[2][1]

Diese Unterscheidung verändert die Beschaffung. Mit der API lässt sich an einer realen Aufgabe prüfen, ob Large 4 nützt, bevor ein Unternehmen Rechenkapazität kauft. Herunterladbare Gewichte eröffnen Kontrolle über Standort, Anpassungen und Inferenzsoftware. Keiner der Wege belegt ohne eigene Nutzungsdaten und Vertragsbedingungen niedrigere Kosten, besseren Datenschutz oder schnellere Antworten.

Titelbild: Generierte redaktionelle Illustration eines Laptops neben einer Serverwerkstatt. Sie veranschaulicht die Wahl des Betriebsorts, keinen gemessenen Hardwarevergleich.

Die Veröffentlichung: Aus der Oktober-Vorschau werden herunterladbare Gewichte

Mistrals Modellseite trägt noch das Datum der öffentlichen Vorschau vom 6. Oktober. Dieses Datum beschreibt den Start der API, nicht die Veröffentlichung des Checkpoints. Die Ankündigung vom 29. Oktober benennt die Freigabe der Gewichte; das offizielle Hugging-Face-Repository dokumentiert seine erste Veröffentlichung an diesem Tag.^[2][1][11]

Mistral beschreibt Large 4 als multimodales Mixture-of-Experts-Modell mit 1,05 Billionen Parametern insgesamt und 52 Milliarden aktiven Parametern einschließlich Einbettungs- und Ausgabeschichten. Ohne diese Schichten nennt die Modellkarte 49 Milliarden aktive Parameter pro Token. Die Zahlen beantworten unterschiedliche Fragen: Der aktive Anteil beschreibt den Rechenpfad durch ausgewählte Experten, nicht den Speicherbedarf der Gewichte beim Betrieb.^[4][6]

Der Anbieter nennt Text und Bilder als Eingabe, Text als Ausgabe, Funktionsaufrufe, strukturierte Ausgaben und ein Kontextfenster von einer Million Tokens. Außerdem gibt es drei Stufen für den Denkaufwand: niedrig, mittel und hoch. Das sind Produktfähigkeiten, kein Beleg dafür, dass jede selbst betriebene Konfiguration Anfragen mit einer Million Tokens wirtschaftlich verarbeiten kann.^[4][6]

Die Hardware: Weniger aktive Experten bedeuten keinen kleinen Checkpoint

Die offizielle vLLM-Anleitung nennt ungefähr 1,06 TB für FP8-Gewichte und 610 GB für den auf NVIDIA Blackwell ausgerichteten NVFP4-Checkpoint. Das sind reine Gewichtsgrößen, ohne KV-Cache, Laufzeitaufwand, Bildverarbeitung und Reserven für gleichzeitige Anfragen. Die getesteten Konfigurationen nutzen mehrere Rechenzentrums-GPUs. Obwohl Mistral ein Kontextfenster von einer Million Tokens angibt, nennt die Anleitung eine Validierung bis 256.000 Tokens und begrenzt ihren Beispielbefehl auf diesen Wert.^[9][7]

Die unbequeme Wahrheit: 49 Milliarden aktive Parameter machen daraus kein Laptop-Modell mit 49 Milliarden Parametern. Die Auswahl weniger Experten pro Token kann den Rechenaufwand gegenüber der Aktivierung aller Experten senken. Trotzdem müssen die Gewichte aller Experten gespeichert und bereitgestellt werden. Ein kleiner Rechner kann als Client für eine API oder einen entfernten Server dienen. Er ist damit noch nicht der Host für diesen veröffentlichten Checkpoint.

Dies sind getrennte Preis- und Betriebssignale, keine Leistungsrangliste. Die Gewichtsgrößen enthalten keinen Laufzeitspeicher. LLM Rumors hat keine der Varianten getestet.

Die Wirtschaftlichkeit: Erst die Aufgabe berechnen, dann GPUs beschaffen

Angenommen, in einem hypothetischen Monat fallen 100 Millionen reguläre Eingabetokens, 40 Millionen zwischengespeicherte Eingabetokens und 20 Millionen Ausgabetokens an. Mit Mistrals veröffentlichten Preisen ergeben sich 70 US-Dollar für reguläre Eingaben, 2,80 US-Dollar für zwischengespeicherte Eingaben und 42 US-Dollar für Ausgaben, insgesamt 114,80 US-Dollar. Die Rechnung verwendet Listenpreise. Sie ist keine Kundenrechnung und lässt weitere Dienste, Steuern und individuelle Vertragsbedingungen außen vor.^[5]

Steigt allein das Ausgabevolumen auf 100 Millionen Tokens, ergibt dieselbe Rechnung 282,80 US-Dollar. Die Ausgabemenge zählt, weil der veröffentlichte Ausgabepreis das Dreifache des regulären Eingabepreises beträgt. Wer nur Anfragen zählt, aber Promptlänge, Cache-Nutzung und Ausgabelänge nicht erfasst, kann eine API-Rechnung nicht sinnvoll mit Eigenbetrieb vergleichen.

Eigene Infrastruktur hat eine andere Kostenstruktur: GPU-Miete oder -Kauf, Speicherung der Gewichte, Orchestrierung, Überwachung, Reserven, Entwicklungszeit und Auslastung zwischen Verkehrsspitzen. Mistrals Modellkarte empfiehlt die eigene API, falls lokaler Betrieb unzureichend ist.^[6] Hier liegt der geschäftliche Kniff der parallelen Veröffentlichung von Gewichten und bezahltem Endpunkt: Kunden können sofort testen, während Mistral darum konkurriert, selbst der einfachere Betreiber zu bleiben. Das ist unsere Deutung der Produktstrategie, keine veröffentlichte Umsatzprognose.

Die Lizenz: Offene Gewichte haben eine konkrete kommerzielle Grenze

Mistral nennt seine Bedingungen „Ecosystem Open-Weight License“, eine modifizierte MIT-Lizenz. Der veröffentlichte Text erlaubt Nutzung, Änderung und Verbreitung, auch für kommerzielle Zwecke, vorbehaltlich seiner Bedingungen. Er ergänzt eine Model-as-a-Service-Regel: Betreibt der Lizenznehmer oder ein verbundenes Unternehmen ein MaaS-Geschäft, ist vor einer kommerziellen Nutzung des Modells oder seiner Ableitungen eine gesonderte kommerzielle Lizenz von Mistral erforderlich.^[8]

Die Definition betrifft den Zugang Dritter zu Inferenz oder weiterem Training, wenn diese Dritten wesentliche Kontrolle über Eingaben, Parameter oder Trainingsdaten haben. Ausgenommen von der MaaS-Definition sind Produkte, deren Modellfähigkeiten ausschließlich in bestimmte Funktionen oder Anwendungsgerüste eingebettet sind, sowie das bloße Weiterleiten von Anfragen an einen anderen Anbieter. Die interne Nutzung und die Nutzung von Mistrals eigenen Produkten sind gesondert von der Pflicht zur kommerziellen Lizenz nach Abschnitt 2 ausgenommen.^[8] Klar ist: Das ist weder eine gewöhnliche uneingeschränkte MIT-Lizenz noch ein pauschales Verbot kommerzieller Anwendungen. Wer ein gehostetes Modellprodukt plant, sollte den konkreten Dienst und die Unternehmensstruktur anhand des veröffentlichten Textes rechtlich prüfen lassen.

Oft übersehen wird, dass Lizenz- und Hardwarefrage unabhängig voneinander sind. Ein Unternehmen kann genug GPUs besitzen und für sein Vertriebsmodell trotzdem eine gesonderte Vereinbarung benötigen. Ein anderes kann die veröffentlichten Bedingungen erfüllen, aber die Investition in den Betrieb nicht rechtfertigen. Offene Gewichte erweitern die Optionen. Sie beseitigen keine der beiden Hürden.

Der Pilotversuch: Den Vergleich bewusst begrenzen

Beginnen sollte man mit einer Anwendung und einem repräsentativen, rechtmäßig nutzbaren Fallsatz. Zu erfassen sind reguläre, zwischengespeicherte und ausgegebene Tokens sowie Bildnutzung, Denkstufe und nötige Kontextlänge. Über die API lassen sich Antwortqualität, Fehler, Zeit bis zum ersten Token und Latenz am oberen Rand bei der geplanten Zahl gleichzeitiger Anfragen messen. Dieselben Bedingungen müssen festgehalten werden, falls später ein eigener Betrieb geprüft wird. Ohne gleiche Hardware, Präzision, Prompt- und Ausgabelängen, Decoding-Einstellungen, spekulatives Decoding, Batchgröße und Testumgebung trägt ein Modellvergleich keine Geschwindigkeitsrangliste.

Für eigene Infrastruktur ist die offizielle Inferenzanleitung ein Ausgangspunkt zur Kapazitätsplanung. Danach müssen Speicherreserve und Durchsatz auf der Zielhardware geprüft werden. Ihre Validierungsgrenze von 256.000 Tokens ist ein Grund, Anforderungen an längeren Kontext ausdrücklich zu testen, kein Beleg gegen die beworbene Fähigkeit von einer Million Tokens.^[9] Wer heute am Laptop arbeitet, kann die API oder Mistrals gehosteten Vibe-Workflow nutzen. Beides macht den Laptop nicht zum Modellhost.^[10] Unser Leitfaden zu Ultrabook und M6 Mac behandelt die Kompatibilität lokaler Werkzeuge; unsere Analyse offener Modellinfrastruktur (Englisch) betrachtet den größeren Plattformwettbewerb.

Mistral bietet nun sowohl einen bezahlten Endpunkt als auch herunterladbare Gewichte. Für Käufer ist die Entscheidung anspruchsvoller als ein Schlagwort: Aufgabe nachweisen, Betriebskosten berechnen und festlegen, wer die Infrastruktur kontrollieren soll. Offene Gewichte ermöglichen diese Wahl. Kostenlos machen sie sie nicht.

Quellen

Zuletzt aktualisiert: 31. Oktober 2026