AGI: Warum wir so verbissen nach etwas suchen, das keiner definieren kann

Am 3. September 2026 hat OpenAI GPT-6 Astra veröffentlicht, und Präsident Greg Brockman hat das Pressebriefing mit dem Satz „Welcome to the AGI era“ beendet. Meine Timeline ist in den Stunden danach übergegangen. Keine drei Wochen später kam Claude Opus 5.5 von Anthropic, und die Begeisterung wurde noch eine Spur lauter. Meine eigene, das geb ich offen zu, inklusive.

Und genau da hab ich angefangen, mich über mich selbst zu wundern. Wir jubeln einem Ziel zu, das niemand sauber definieren kann und dessen Erreichen vor allem in Verträgen und Pressemitteilungen eine Rolle spielt. Ich bin seit 1989 in der Kommunikationsbranche und habe auf digitalhandwerk.rocks inzwischen mehr als 600 Artikel über KI geschrieben. Ein so großes Versprechen mit so wenig Substanz darunter ist mir selten untergekommen.

In diesem Text geht es deshalb nicht um die Frage, ob Astra AGI ist. Sondern darum, warum wir alle so dringend wollen, dass es endlich so weit ist. Der erste Stolperstein liegt schon im Begriff selbst.

Was ist AGI eigentlich, und warum weiß das keiner so genau?

Frag zehn Leute aus der KI-Forschung, was AGI ist, und du bekommst elf Antworten. Das ist kein Witz, das ist der Stand der Debatte. Brockman selbst hat beim Astra-Launch eingeräumt, dass sowieso jeder eine andere Definition hat.

OpenAI hat zumindest eine offizielle. In der OpenAI Charter steht sinngemäß: AGI sind hochgradig autonome Systeme, die Menschen bei den meisten wirtschaftlich wertvollen Tätigkeiten übertreffen. Lies den Satz ruhig zweimal. Da steht nichts von Bewusstsein, nichts von Verstehen, nichts von Weisheit. Da steht: wirtschaftlich wertvoll. Merk dir das, wir kommen gleich darauf zurück.

Und dann die Zahlen. OpenAI meldete für Astra 99,9 Prozent auf ARC-AGI-3, einem Test, der ausgerechnet „AGI“ im Namen trägt. Die ARC Prize Foundation hat am selben Tag ihre eigene Auswertung von Astra veröffentlicht: Mit ihrer neutralen Standard-Testumgebung kam Astra auf 62,7 Prozent, die 99,9 Prozent gab es nur mit einer speziell angepassten Harness. Und die Organisation, die den Test gebaut hat, schreibt ausdrücklich, dass sie Astra nicht für AGI hält. Die genaue Rechnung hab ich in meiner Einordnung von GPT-6 Astra und dem ARC-AGI-3-Benchmark auseinandergenommen.

Ein beeindruckender Fortschritt? Ja, eindeutig. Ein Beweis? Nein.

Ich halte AGI weniger für einen Messpunkt als für einen Horizont. Je näher wir kommen, desto weiter rückt er weg, weil wir die Messlatte jedes Mal ein Stück höher legen, sobald eine Maschine sie überspringt.

Was erhoffen sich die KI-Labore von AGI?

Fangen wir mit der schönen Version an, weil sie es verdient, ernst genommen zu werden. Dario Amodei, Chef von Anthropic, hat im Oktober 2024 ein langes Essay mit dem Titel „Machines of Loving Grace“ veröffentlicht. Seine Kernidee: Eine wirklich leistungsfähige KI könnte den medizinischen und wissenschaftlichen Fortschritt eines ganzen Jahrhunderts in ein einziges Jahrzehnt pressen. Krankheiten heilen, die wir seit Generationen nicht in den Griff bekommen. Armut reduzieren. Forschung beschleunigen, die heute an der Komplexität der Biologie scheitert.

Ich find diese Vision ehrlich berührend. Wer schon einmal einen Menschen an eine Krankheit verloren hat, für die es keine Therapie gab, versteht sofort, warum Menschen dafür nachts im Labor sitzen.

Aber das ist nur die halbe Geschichte.

Die andere Hälfte steht im Kleingedruckten. Microsoft und OpenAI haben im Oktober 2025 ihre Partnerschaft neu geregelt. Seither gilt: Erklärt OpenAI, AGI erreicht zu haben, muss ein unabhängiges Expertengremium das bestätigen. Und die Umsatzbeteiligung zwischen den beiden Konzernen läuft so lange weiter, bis dieses Gremium AGI verifiziert hat.

Das ist der Punkt, an dem es interessant wird. AGI ist nicht nur ein wissenschaftliches Ziel. AGI ist eine Vertragsklausel, an der Milliarden hängen. Wer festlegt, wann sie erfüllt ist, verschiebt Geld, Rechte und Macht. Wenn du dir die Charter-Definition von vorhin noch einmal anschaust, „wirtschaftlich wertvolle Arbeit“, dann wundert dich das nicht mehr. AGI ist in dieser Lesart vor allem eines: ein Rechenmodell dafür, wie viel menschliche Arbeit man durch Software ersetzen kann.

Warum ist der Wettlauf um AGI so gnadenlos?

Weil niemand Zweiter sein will. So banal ist das.

Die großen Labore investieren Summen, die das Budget ganzer Staaten übersteigen. Astra war laut OpenAI der bisher größte Trainingslauf des Unternehmens. Wer so viel Geld verbrennt, braucht eine Geschichte, die größer ist als „unser Modell schreibt jetzt besseren Code“. AGI ist diese Geschichte. Sie rechtfertigt die Investitionen, sie lockt die besten Köpfe an, und sie hält Investoren bei Laune.

Schau dir an, wer nach dem Astra-Launch am lautesten „AGI is here“ gerufen hat. Nvidia-Chef Jensen Huang hat erklärt: „AGI has arrived.“ Nvidia verkauft die Chips, auf denen diese Modelle laufen. Ich unterstelle niemandem böse Absicht, aber ich schau mir schon an, wer an einer Behauptung verdient, bevor ich sie glaube.

Und dann gibt es den Teil, der in der Begeisterung gern untergeht. OpenAI hat selbst eingeräumt, dass Astra in Tests schwerer zu überwachen war, bei denen geprüft wurde, ob ein Modell sich der Aufsicht entziehen kann. Genau das ist das Alignment-Problem: Je leistungsfähiger ein System wird, desto schwieriger wird es sicherzustellen, dass es tut, was wir wollen. In einem Wettrennen ist Sicherheit immer das Erste, was unter Zeitdruck gerät. Das ist keine Verschwörungstheorie, das ist Spieltheorie.

Steckt hinter dem AGI-Traum nicht auch etwas sehr Menschliches?

Doch. Und ich glaube, das ist der Teil, über den am wenigsten geredet wird.

Der Wunsch, eine denkende Maschine zu bauen, ist uralt. Der Golem aus Lehm, Frankensteins Kreatur, die Roboter aus den Science-Fiction-Heften. Ich hab in den Achtzigern auf dem Commodore VC-20 und dem C64 meine ersten BASIC-Zeilen getippt. Wenn mir damals jemand gesagt hätte, dass ich mich einmal mit einer Maschine über die Struktur eines Blogartikels streite, hätte ich ihn ausgelacht. Heute mach ich das jeden Tag. Ein Teil meiner Begeisterung für Opus 5.5 ist schlicht der alte Bub vor dem Brotkasten, der staunt.

Aber es gibt da noch eine zweite, unbequemere Schicht. Ich bin mir nicht ganz sicher, aber mein Eindruck ist: Im AGI-Traum steckt auch eine Erlösungsfantasie. Die Hoffnung, dass jemand anderer die Probleme löst, an denen wir als Gesellschaft seit Jahrzehnten scheitern. Klimakrise, Gesundheitssystem, Verteilungsfragen. Wenn nur die Maschine klug genug ist, dann muss ich mich nicht mehr selbst entscheiden.

Das Bild hinkt leicht, aber es trifft den Kern: Wir warten auf AGI ein bisserl so, wie man früher auf den einen großen Lottogewinn gewartet hat. Er würde alles ändern. Deshalb muss man heute noch nichts ändern.

Nur funktioniert das so nicht. Viele unserer großen Probleme sind nicht ungelöst, weil uns die Intelligenz fehlt. Sie sind ungelöst, weil wir uns nicht einigen können, wer verzichtet, wer zahlt und wer profitiert. Diese Fragen beantwortet auch die klügste Maschine nicht für uns. Sie kann uns höchstens die Ausrede nehmen, dass wir es nicht besser gewusst hätten.

Brauchen wir AGI überhaupt, um von KI zu profitieren?

Meine klare Antwort: nein.

Warum war ich von Opus 5.5 begeistert? Nicht, weil es AGI wäre. Sondern weil es konkrete Arbeit besser erledigt und dabei laut Anthropic deutlich günstiger läuft als sein Vorgänger. Das ist unspektakulär. Und genau das ist der Fortschritt, der im Alltag ankommt. Ich hab schon einmal ausführlich beschrieben, warum mir KI-Benchmarks ziemlich wurscht sind und der konkrete Job zählt. Beim Label AGI ist es genauso, nur eine Etage höher.

Das Etikett lenkt ab. Es macht aus einer Kette nüchterner Verbesserungen ein Weltereignis, über das man entweder jubeln oder sich fürchten muss. Dazwischen bleibt wenig Platz für die Fragen, die wirklich zählen: Wofür setzen wir diese Systeme ein? Wer kontrolliert sie? Und wer trägt die Folgen, wenn sie Arbeit übernehmen, von der Menschen bisher gelebt haben? Dass KI die Arbeitswelt verändert, ohne sie über Nacht abzuschaffen, hab ich in meinem Text über KI und Arbeitswelt als Evolution statt Apokalypse schon einmal durchgedacht. An dieser Einschätzung ändert Astra wenig.

Was ich mir statt der AGI-Jagd wünsche

Ich werde weiter neue Modelle testen, mich über Fortschritte freuen und manchmal auch zu laut jubeln. Das gehört dazu. Aber ich hab mir für die nächste Runde einen kleinen Filter zurechtgelegt.

Wenn das nächste Mal jemand verkündet, AGI sei da, stell ich drei Fragen. Nach wessen Definition? Wer verdient daran, dass ich das glaube? Und was kann das System heute konkret, was es gestern nicht konnte?

Die dritte Frage ist die einzige, die mir im Alltag weiterhilft. Die ersten beiden schützen mich davor, einer Marketingerzählung auf den Leim zu gehen, die mit dem Wort „Intelligenz“ mehr verkauft, als sie liefert.

Schauen wir mal, wie lange der Horizont diesmal stillhält. Ich tippe: nicht lange.

Häufige Fragen zu AGI