Ich lese viele Unternehmens-Blogposts. Die meisten sind PR verkleidet als Insight. Der, den Anthropic am 4. Juni 2026 veröffentlicht hat, ist das nicht. Und weil die deutschsprachigen Medien daraus eine „KI-Firma fordert Pause“-Schlagzeile gemacht haben, die mehr verbirgt als sie zeigt, schreibe ich das hier auf.
Der Originaltitel lautet „When AI builds itself“. Verfasst haben ihn Marina Favaro, die Leiterin des Anthropic Institute, und Jack Clark, Mitgründer von Anthropic. Beide haben direkten Zugang zu den Daten, über die sie schreiben. Das ist kein Policy-Paper von einer Nichtregierungsorganisation. Das ist ein Bericht von innen.
Meine Einschätzung nach mehreren Jahren Praxisarbeit mit KI-Einsatz in EPU und KMU, dokumentiert auf digitalhandwerk.rocks: Dieser Artikel ist eines der wenigen Dokumente aus der KI-Industrie, bei dem man genau hinschauen sollte. Nicht wegen der Pause-Forderung. Wegen der Zahlen dahinter.
Was Anthropic mit „Recursive Self-Improvement“ meint
Zur Klarheit: Recursive Self-Improvement bedeutet, dass ein KI-System seinen eigenen Nachfolger entwickelt, also nicht nur Code schreibt, sondern das Training, die Architektur und die Optimierung des nächsten Modells vollständig autonom gestaltet. Das ist etwas anderes als „KI hilft beim Programmieren“. Anthropic sagt explizit, dass es so weit noch nicht ist. Aber der Artikel zeigt, wie der Weg dorthin aussieht, und er ist kürzer als erwartet.
Der Anlass für den Artikel ist nicht Spekulation. Es sind Messwerte aus dem eigenen Betrieb.
Die Zahlen, die niemand aus der Schlagzeile entnimmt
Anthropic hat seinen Blog-Post auf interne Daten gestützt, die vorher nicht veröffentlicht waren. Hier ist, was drin steht:
Im Mai 2026 wurde mehr als 80 Prozent des Codes, der in Anthropics eigene Codebase gemergt wird, von Claude geschrieben. Vor dem Launch von Claude Code im Februar 2025 waren es niedrige einstellige Prozentzahlen. Das ist keine allmähliche Entwicklung. Das ist ein Schalter, der umgelegt wurde.
Die Produktivität pro Engineer ist im zweiten Quartal 2026 achtmal so hoch wie in 2024. Nicht gemessen in „gefühlter Effizienz“, sondern in Lines of Code pro Tag, die in der Codebase landen. Anthropic selbst sagt, dass Lines of Code ein unvollständiges Maß ist, aber auch als grobes Indiz ist der Faktor 8 auffällig.
Ein internes Survey mit 130 Mitarbeitern im März 2026 hat ergeben, dass die mediane Einschätzung beim Productivity-Uplift durch Mythos Preview bei etwa 4x liegt, verglichen mit dem Arbeiten ohne KI-Assistenz. Anthropic schreibt selbst, dass diese Zahl wahrscheinlich etwas überschätzt wird. Aber selbst wenn man sie halbiert, bleibt ein Faktor, der sich in keiner anderen Technologie der letzten zwanzig Jahre findet.
Dann ist da noch der Experiment-Optimizer-Test. Anthropic gibt bei jedem neuen Modell denselben Benchmark: Claude bekommt Code, der ein kleines KI-Modell trainiert, und soll ihn so schnell wie möglich machen, ohne die Korrektheit zu verändern. Claude Opus 4 im Mai 2025 hat einen Speedup von etwa 3x erreicht. Claude Mythos Preview im April 2026 hat 52x erreicht. Ein erfahrener menschlicher Forscher würde für 4x vier bis acht Stunden brauchen. In diesem Teil des Research-Workflows ist das Modell nach eigener Aussage nicht mehr nur „besonders hilfreich“, sondern besser als der Mensch.
Das ist der Punkt, an dem es interessant wird.
Drei Szenarien, ein klares Präferenz-Signal
Anthropic beschreibt im Artikel drei mögliche Zukünfte, und ich finde es bemerkenswert, wie offen sie dabei sind.
Szenario eins: Die aktuellen Fähigkeitstrends flachen ab. Die exponentiellen Kurven entpuppen sich als S-Kurven. Die KI-Entwicklung stagniert auf heutigem Niveau. Anthropic hält das für unwahrscheinlich, beschreibt es aber als das Szenario, das Gesellschaft und Regulierung die meiste Zeit zum Anpassen lassen würde.
Szenario zwei: Compounding Efficiency. KI-Entwicklung wird weitgehend automatisiert, aber Menschen setzen weiter die Richtung. Ein 100-Personen-Unternehmen kann die Arbeit einer 10.000-Personen-Organisation erledigen. Anthropic hält das für das wahrscheinlichste Szenario. Es ist auch das, das den meisten meiner Klienten gerade begegnet, ohne dass sie es so nennen würden.
Szenario drei: Full Recursive Self-Improvement. KI-Systeme werden fähig, vollständig autonom ihre eigenen Nachfolger zu entwickeln. Über dieses Szenario schreiben Favaro und Clark am ehrlichsten: „Wie das Alignment-Problem in dieser Zukunft gelöst wird, oder eben nicht, ist das, worüber wir uns am wenigsten sicher sind.“
Das ist ein Mitgründer eines der wertvollsten KI-Unternehmen der Welt, der in einem öffentlichen Dokument sagt: Wir wissen nicht, wie das ausgeht.
Was „Pause“ in Wirklichkeit bedeutet
Die Medienberichterstattung hat „Anthropic fordert Pause“ als Headline verwendet. Das ist technisch nicht falsch, aber es lässt das Entscheidende weg.
Anthropic fordert keine unilaterale Pause. Sie fordern explizit das Gegenteil davon. Eine einseitige Verlangsamung durch ein einzelnes Lab, schreiben sie, würde nur ändern, wer vorne liegt. Sie fordern eine global koordinierte, verifizierbare Vereinbarung, bei der mehrere gut aufgestellte Labs in mehreren Ländern gleichzeitig unter denselben Bedingungen stoppen, und bei der jedes Lab nachweisen kann, dass die anderen wirklich gestoppt haben.
Dann folgt der Satz, der die tatsächliche Komplexität zeigt: „Training runs are far easier to conceal than missile silos, their inputs are general-purpose, and the incentive to defect quietly is enormous, because whoever continues while others pause could inherit the lead.“
Das ist kein Aufruf zum Innehalten. Das ist eine ehrliche Diagnose des Gefangenendilemmas, in dem sich alle Frontier-Labs befinden. Wer als Erster bremst, verliert. Wer als Letzter bremst, gewinnt. Eine Lösung dafür existiert noch nicht.
Das Anthropic Institute soll genau das erforschen: wie ein solches Verifizierungssystem aussehen könnte, vergleichbar mit Rüstungskontroll-Abkommen, aber für eine Technologie, die viel schwerer zu detektieren ist als Raketensilos.
Warum dieser Artikel anders ist als andere Warnungen
Es hat Warnungen vor KI schon früher gegeben. Das Future of Life Institute hat 2023 einen offenen Brief veröffentlicht, der eine sechsmonatige Pause bei der Entwicklung von Systemen, die mächtiger sind als GPT-4, forderte. Elon Musk hat unterschrieben. Die Labs haben es ignoriert.
Was diesen Artikel unterscheidet: Die Warnung kommt von innen. Anthropic ist kein externes Advocacy-Gremium. Sie haben direkten Zugang zu den Capabilities, vor denen sie warnen. Und sie stützen ihre Aussagen auf interne Daten, nicht auf Modellierungen oder Theorien.
Ein weiterer Unterschied: Anthropic macht keinen Hehl daraus, dass sie selbst Teil des Problems sind. Sie beschreiben im Artikel detailliert, wie Claude immer größere Anteile der eigenen Weiterentwicklung übernimmt. Das ist keine externe Bedrohung, vor der man andere warnt. Das ist der eigene Betrieb, den man beschreibt.
Ich beobachte das regelmäßig in meiner Beratungsarbeit mit EPU und KMU in Österreich und der DACH-Region: Wer wirklich tief drin ist in der KI-Entwicklung, redet nicht mehr über „Tools“. Der redet über Systeme, die Entscheidungen treffen, die vorher menschliche Expertise erfordert haben. Das ist kein Hype. Das ist, was gerade passiert.
Was das für alle bedeutet, die KI nicht selbst entwickeln
Der Artikel ist an die KI-Industrie gerichtet. Aber er hat Implikationen, die weit darüber hinausgehen.
Wenn ein 100-Personen-Unternehmen wirklich die Arbeit einer 10.000-Personen-Organisation leisten kann, hat das Konsequenzen für Märkte, für Beschäftigung, für die Frage, wie Wettbewerb überhaupt noch funktioniert. Anthropic schreibt das nicht als Warnung, sondern als Beobachtung. Die Implikation steht zwischen den Zeilen.
Für kleine Unternehmen und Einzelunternehmer bedeutet das kurzfristig Möglichkeiten, die es so vorher nicht gab. Ich habe in den letzten Monaten mit Kunden gearbeitet, die mit einem halben Manntag pro Woche Aufgaben erledigen, für die sie früher externe Dienstleister gebraucht hätten. Das ist der Szenario-zwei-Effekt, live in der Praxis.
Aber der Artikel erinnert daran, dass Szenario zwei nicht das Ende der Geschichte ist. Es ist ein Zwischenstadium. Was danach kommt, hängt davon ab, wie die nächsten zwei bis drei Jahre verlaufen.
Wo Anthropic sich selbst widerspricht
Ich schreibe das hier, weil es zur Vollständigkeit gehört: Anthropic reicht gleichzeitig mit diesem Artikel seinen IPO ein, mit einer angestrebten Bewertung von knapp einer Billion Dollar. Sie bauen aktiv die Technologie, vor der sie warnen. Sie beschleunigen die Entwicklung mit jeder neuen Modell-Generation, die Claude Code besser macht.
Das ist kein Vorwurf. Das ist das Gefangenendilemma, das sie selbst beschreiben. Aber es wäre unehrlich, darüber hinwegzusehen. Ein Unternehmen, das öffentlich sagt „wir sollten vielleicht langsamer werden“, und das gleichzeitig für einen Billion-Dollar-Börsengang arbeitet, sendet gemischte Signale. Oder, weniger diplomatisch: Das eine widerspricht dem anderen.
Was bleibt, ist die ehrliche Lesart: Anthropic weiß, dass die Richtung schwer zu ändern ist. Deshalb investieren sie in Verifikations-Mechanismen für eine koordinierte Verlangsamung, nicht in eine einseitige. Das ist pragmatischer als cynischer als es klingt.
Was ich daraus mitnehme
Ich bin kein KI-Sicherheitsforscher. Ich bin jemand, der seit mehr als drei Jahrzehnten in der Kommunikationsbranche arbeitet, der seit Jahren KI-Tools in der Praxis testet, und der Artikel wie diesen liest, weil sie zeigen, wie die Leute, die diese Systeme bauen, selbst über sie denken.
Was ich aus diesem Artikel mitnehme: Die Entwicklung verläuft schneller als die meisten Beobachter sehen. Nicht „schnell im Vergleich zu 2020“, sondern schnell im Sinne von „die Kurven sind noch nicht abgeflacht, und niemand weiß, wann sie es tun“. Anthropic sagt das selbst. Es ist ungewöhnlich ehrlich für ein Unternehmen mit einer Börsenbewertung nahe einer Billion Dollar.
Den kompletten Originalartikel findet du hier: anthropic.com/institute/recursive-self-improvement. Ich empfehle, ihn zu lesen. Er ist lang. Er ist es wert.
