Seit ein paar Tagen kursiert auf LinkedIn ein Benchmark-Chart mit Soofi S ganz oben rechts, schneller und stärker als alles, was Europa bisher an offenen Sprachmodellen gebaut hat. Die erste Reaktion vieler Leute: Deutschland hat den Anschluss geschafft. Das stimmt technisch, aber nur zur Hälfte. Der Teil des Charts, der beim Tempo wirklich beeindruckt, stammt nämlich nicht aus Deutschland, sondern aus einer Architektur, die Nvidia bereits vor Monaten offengelegt hat. Ich zeige dir in diesem Artikel, was am Training von Soofi S tatsächlich neu ist, wo das Konsortium nur eine bestehende Konstruktion übernommen hat, und warum genau diese Arbeitsteilung trotzdem eine gute Nachricht für Europa ist. Fangen wir bei der Technik an, denn ohne die verstehst du den Rest der Geschichte nicht.
Was steckt technisch in Soofi S?
Soofi S trägt den offiziellen Namen 30B-A3B, und diese Kombination aus Buchstaben und Zahlen beschreibt schon fast das ganze Modell. 31,6 Milliarden Parameter insgesamt, aber pro erzeugtem Token werden nur rund 3,2 Milliarden davon aktiv gerechnet. Das ist ein sogenanntes Mixture-of-Experts-Modell, kurz MoE: Statt bei jeder Anfrage das komplette neuronale Netz zu aktivieren, schickt ein Router jeden Token nur durch eine kleine Auswahl an spezialisierten Teilnetzen. Die Rechenkosten liegen damit näher an einem 3-Milliarden-Modell als an einem klassischen 30-Milliarden-Modell. Ich habe dieses Architekturprinzip schon bei Mistral Large 3 ausführlich erklärt, und es zeigt sich hier im Kleinen dasselbe Muster: Große Modelle werden im Betrieb günstig, weil eben nicht alles gleichzeitig feuert.
Die zweite technische Besonderheit betrifft lange Texte. Klassische Transformer-Modelle speichern für jedes bisherige Token einen sogenannten KV-Cache, der bei der Berechnung von Aufmerksamkeit gebraucht wird. Dieser Cache wächst linear mit der Textlänge, und bei langen Eingaben mit vielen parallelen Anfragen wird das Nachladen zum Flaschenhals. Bei Soofi S führen nur 6 von 52 Layern überhaupt einen KV-Cache, der Rest arbeitet mit einem Mamba-2-Mechanismus, der einen nahezu konstanten Speicherzustand hält. Das Ergebnis laut dem Pretraining-Report des Soofi-Konsortiums: Bei einem Kontext von 40.000 Token und 32 parallelen Anfragen erzeugt Soofi S pro GPU rund acht- bis neunmal mehr Token pro Sekunde als dichte Modelle im Bereich von 14 bis 24 Milliarden Parametern, und der Durchsatz bleibt von 4.000 bis 256.000 Token nahezu flach. Genau diese Kurve ist es, die auf dem LinkedIn-Chart so beeindruckend aussieht.
Warum läuft der Chart-Vorsprung eigentlich auf Nvidias Konto?
Und jetzt kommt der Teil, den die meisten Posts dazu verschweigen. Diese hybride Mamba-Transformer-Konstruktion hat das Soofi-Konsortium nicht selbst entwickelt. Sie stammt eins zu eins von Nvidias Nemotron 3 Nano, 23 Mamba-2-Layer, 23 MoE-Layer, 6 Attention-Layer, ohne Änderung übernommen. Das Team nennt dafür drei Gründe: Die Architektur lässt sich direkt auf gängigen Inferenz-Stacks wie vLLM betreiben, sie ist bei der Auslieferung effizient, und sie funktioniert als wissenschaftliche Kontrollgruppe. Weil das Rückgrat fixiert bleibt, wird Nemotron 3 Nano zur architekturidentischen Vergleichsbasis, an der sich messen lässt, was das eigene Training tatsächlich gebracht hat.
Das ist kein Vorwurf an das Konsortium, im Gegenteil. Eine bestehende, gut getestete Architektur zu übernehmen, statt das Rad neu zu erfinden, ist die vernünftigere Entscheidung, wenn dein Budget 20 Millionen Euro und nicht 20 Milliarden Dollar beträgt. Aber es bedeutet, dass der Teil des Charts, der beim Tempo glänzt, im Wesentlichen zeigt, dass Nvidias Design funktioniert und portabel ist. Deutschland hat hier eine kluge Wahl getroffen, keine eigene Erfindung präsentiert. Diese Unterscheidung find ich wichtig, weil sie den eigentlichen Beitrag des Projekts erst sichtbar macht.
Auch die Infrastruktur dahinter verdient einen Blick, weil sie das Souveränitätsargument erst glaubwürdig macht. Trainiert wurde zwischen 24. März und 13. Mai 2026 auf der Industrial AI Cloud der Deutschen Telekom in München, mit bis zu 512 Nvidia-B200-GPUs, betrieben mit erneuerbarer Energie und gekühlt mit Wasser aus dem Eisbach-Kanal. Die Abwärme der Anlage fließt ins umliegende Wohnviertel Tucherpark. Für ein Land, das beim Training großer Modelle bisher fast ausschließlich auf US-Hyperscaler ausgewichen ist, ist das ein Bruch mit der bisherigen Praxis, unabhängig davon, wie das Modell am Ende in Benchmarks abschneidet.
Was hat das Soofi-Konsortium wirklich selbst gebaut?
Der eigene Beitrag liegt komplett in den Trainingsdaten. Soofi S wurde mit rund 27 Billionen Token trainiert, verteilt auf drei Phasen mit einem klassischen Warmup-Stable-Decay-Zeitplan. In der ersten Phase macht Deutsch 7,2 Prozent des Trainingsmixes aus, in der zweiten, qualitativ höherwertigen Annealing-Phase steigt der Anteil auf 15,3 Prozent. Zum Vergleich: Im Nemotron-Referenzrezept entfallen auf alle nicht-englischen Sprachen zusammen nur rund 5 Prozent. Als Quellen kombiniert das Konsortium deutsche Webtexte aus dem HPLT-Korpus, das offen lizenzierte German Commons, deutsche Anteile aus FinePDFs und FineWiki, dazu maschinell übersetzte und synthetisch erzeugte deutsche Texte. Ein Sonderfall ist der kommerziell lizenzierte Genios-Korpus mit 193 Millionen Zeitungsartikeln aus 916 deutschen Publikationen, der Grund dafür, dass Soofi S die strengste Open-Source-Definition mit vollständig frei weiterverteilbaren Trainingsdaten knapp verfehlt.
Was Soofi S für einen Beitrag zur deutschen KI-Landschaft leistet, ist vor allem die radikale Offenlegung. Das Konsortium veröffentlicht den vollständigen Pretraining-Report, den Trainingscode, die Hyperparameter, die exakte Deutsch-Englisch-Code-Mischung samt Begründung und ein Token-Accounting pro Quelle, das laut eigenen Angaben rund 99 Prozent des Trainingsmixes rekonstruierbar macht. Genau diese Nachvollziehbarkeit ist der Hebel, für den ich seit Langem plädiere, wenn es um Europas KI-Weg geht. Ich beschreibe das Prinzip Explainable AI an anderer Stelle ausführlicher, aber der Kern ist derselbe: Ein Modell, dessen Grundlagen offenliegen, lässt sich prüfen, während eine Blackbox nur beteuert werden kann. Kalifornien zwingt mit dem AB 2013 US-Anbieter seit Januar 2026 zu ähnlicher Offenlegung, und der EU AI Act verlangt von General-Purpose-AI-Anbietern vergleichbare technische Dokumentation. Ich habe diese Entwicklung schon einmal eingeordnet, Soofi S liefert freiwillig mehr, als beide Regelwerke aktuell verlangen.
Ist Soofi S übertrainiert?
Kurz nach der Veröffentlichung kam ein technischer Einwand auf: Gemessen an den klassischen Skalierungsgesetzen sei Soofi S massiv übertrainiert. Google DeepMind hatte 2022 in einer vielzitierten Studie beschrieben, wie sich Modellgröße und Trainingsdatenmenge bei festem Rechenbudget optimal ausbalancieren lassen, mit rund 20 Token pro Parameter als rechnerischem Optimum, benannt nach dem in der Studie trainierten Modell Chinchilla. Mit 27 Billionen Token und 30 Milliarden Parametern insgesamt liegt Soofi S bei mehreren hundert Token pro Parameter. Rechnest du nur die 3,2 Milliarden aktiven Parameter, springt das Verhältnis auf mehrere Tausend zu eins.
Michael Fromm aus der technischen Leitung des Projekts widerspricht dieser Kritik: Die alten Skalierungsgesetze für dichte Modelle ließen sich nicht einfach auf Mixture-of-Experts-Architekturen übertragen, es gebe neuere Forschung, die das belegt. Ob das die Kritik vollständig entkräftet, kann ich fachlich nicht abschließend beurteilen, ich bin mir da nicht ganz sicher, aber mein Eindruck ist, dass beide Seiten recht haben könnten. Klassische Skalierungsgesetze wurden an dichten Modellen kalibriert, MoE-Architekturen verhalten sich beim Verhältnis von Rechenaufwand zu Parametern nachweislich anders, gleichzeitig bleibt die schiere Menge an Trainingsdaten für ein 3B-aktive-Parameter-Modell ungewöhnlich hoch. Für die Praxis zählt am Ende weniger die Theorie als das Ergebnis in den Benchmarks, und dort schneidet Soofi S beachtlich ab.
Wie schlägt sich Soofi S im Vergleich zur Konkurrenz?
Gegen 16 andere offene Basismodelle mit derselben Evaluationspipeline getestet, führt Soofi S unter den vollständig offenen Modellen sowohl beim deutschen Aggregat mit 79,1 Punkten als auch beim englischen mit 70,1 Punkten, und liegt damit vor bisherigen europäischen Referenzen wie Olmo 3 32B und Apertus 70B. Gegen die architekturidentische Basis Nemotron 3 Nano gewinnt Soofi S 1,8 Punkte im Englischen, 4,2 im Deutschen und 6,7 bei zurückgehaltenen englischen Testdaten, ein sauberer Beleg dafür, dass die Datenmischung tatsächlich etwas bringt und nicht nur die Architektur. Bei deutschem Code liegt Soofi S mit 84,2 Prozent auf MBPP-DE vorn, bei HumanEval erreicht es 73,8 Prozent.
Gegen größere Open-Weight-Modelle wird das Bild gemischter. Alibabas Qwen3.5 35B-A3B führt beim Englischen und bei Reasoning-Benchmarks wie GPQA und BBH deutlich, 74,6 zu 70,1 Punkten im Englisch-Aggregat. Bei Mathematik und bei sehr langen Texten über 32.000 Token zeigt Soofi S ebenfalls Schwächen, bestätigt auch der eigene Report. Was hier auffällt: Soofi S ist kein Allzweck-Chatbot und will auch keiner sein. Es ist ein Basismodell ohne Instruction-Tuning und ohne Safety-Alignment, gedacht für Unternehmen, die es auf eigener Infrastruktur feinabstimmen. Für den produktiven Einsatz fehlt außerdem noch die finale kommerzielle Lizenz, aktuell liegen nur Preview-Gewichte auf Hugging Face, die per Zugangsantrag freigeschaltet werden.
Für die Praxis in meiner Beratung heißt das ganz konkret: Für einen IT-Dienstleister aus Linz, mit dem ich vor Kurzem über Modell-Souveränität gesprochen habe, wäre Soofi S heute noch kein Ersatz für die Produktivumgebung, sondern ein Kandidat für den Testbetrieb. Der Grund ist nicht die Leistung, sondern der Reifegrad: keine fertige Lizenz, kein Instruction-Tuning, keine dokumentierten Betriebserfahrungen aus dem produktiven Einsatz. Wer heute schon mit Alternativen zu US-Modellen experimentieren will, findet in Mistral aus Frankreich einen reiferen Einstieg. Wer in einem Jahr eine souveräne, dokumentierte Alternative für sensible, deutschsprachige Anwendungsfälle sucht, sollte Soofi S trotzdem jetzt schon beobachten.
Ist das jetzt Europas KI-Durchbruch?
Ja und nein, und genau diese Doppelantwort ist der eigentliche Punkt. Ein weltweiter Spitzenreiter über alle Disziplinen ist Soofi S nicht, das bestätigt sogar der eigene Report. Aber ein europäisches Team, das einen Trainingslauf über 27 Billionen Token und rund 253.000 GPU-Stunden auf eigener Infrastruktur stemmt, komplett auf der Industrial AI Cloud der Deutschen Telekom in München, das hatten wir vorher nicht. Koordiniert wird das Ganze vom KI Bundesverband, gefördert mit rund 20 Millionen Euro vom Bundesministerium für Wirtschaft und Energie, mit Fraunhofer IAIS, dem Deutschen Forschungszentrum für Künstliche Intelligenz und mehreren Universitäten als Partnern. Und Soofi S ist ausdrücklich nur der erste Baustein, langfristig soll eine ganze Modellfamilie entstehen, bis hin zu Varianten mit rund 100 Milliarden Parametern.
Ich beobachte das regelmäßig in meiner Beratungsarbeit mit EPU und KMU in der DACH-Region: Der Wunsch nach digitaler Souveränität ist da, aber die konkrete Frage lautet fast immer, ob ein europäisches Modell in der Praxis auch etwas taugt. Ich habe diese Debatte rund um Open-Source-KI und europäische Souveränität schon öfter aufgegriffen, und Soofi S liefert dafür jetzt ein konkretes, überprüfbares Beispiel statt einer weiteren Ankündigung. Das Bild vom Aufholrennen hinkt zwar ein wenig, weil Open Source ohnehin nie die Spitze, sondern immer nur die zweite Reihe der Frontier-Modelle erreicht, aber es trifft den Kern trotzdem: Europas Hebel liegt nicht darin, GPT-5.6 oder Claude Opus 4.8 einzuholen. Er liegt in Nachvollziehbarkeit und in Trainingsdaten, die anderswo brachliegen. Genau diese zwei Boxen checkt Soofi S ab, und das reicht für den Anfang.
