Ein gefälschter Thinktank mit Sitz angeblich in Israel. Gestohlene wissenschaftliche Studien mit frei erfundenen Autorinnen. Und mittendrin ein Wort, das die ganze aufwendige Tarnung zum Einsturz brachte: Svetofor-Koalition. Klingt nach einem schlechten Agentenfilm, ist aber ein echter Fall, den OpenAI kürzlich öffentlich gemacht hat.
Ich sag’s gleich so hart, wie ich es meine: Diese Geschichte zeigt nicht in erster Linie, wie gefährlich KI-gestützte Propaganda geworden ist. Sie zeigt, wie schlampig sie in der Praxis oft immer noch gemacht wird, und genau diese Schlampigkeit ist die eigentlich interessante Nachricht.
In diesem Artikel bekommst du die komplette Chronologie des Falls, die Technik dahinter und vor allem: was du als Unternehmer oder als ganz normaler Nutzer daraus für deinen eigenen Umgang mit KI-generierten Inhalten mitnehmen kannst. Fangen wir dort an, wo die Geschichte für OpenAI angefangen hat, nämlich mit ein paar Konten, die sich verdächtig oft hinter VPN-Diensten versteckten.
Der Thinktank, den es nie gab
Die Betreiber der Kampagne nutzten VPN-Verbindungen, um die Länderbeschränkungen von OpenAI zu umgehen. Unter dem Namen „International Burke Institute“ bauten sie eine Website auf, die sich als seriöse wissenschaftliche Expertengemeinschaft mit angeblichem Sitz in Israel ausgab. Auf den ersten Blick wirkte das professionell: Studien, Autorenprofile, ein Institutsname mit Gravitas.
Auf den zweiten Blick war es Diebstahl mit Etikettenschwindel. Die Drahtzieher kopierten echte akademische Papiere aus dem Netz und versahen sie mit frei erfundenen Autorenangaben. Ein Artikel über Migrationspolitik wurde plötzlich einer australischen Professorin für Lebensmittelchemie zugeschrieben, einer Person, die mit dem Thema nachweislich nichts zu tun hatte. Der Fall zeigt, dass die größte Schwäche von KI-gestützter Propaganda nicht die Technik ist, sondern der Mensch, der sie bedient. Wer beim Fälschen schlampt, dessen Tarnung fliegt irgendwann auf, egal wie gut die KI im Hintergrund arbeitet.
Wie ChatGPT beim Verbreiten mitgeholfen hat
Mit ChatGPT erzeugten die russischen Akteure anschließend englischsprachige Kommentare, die die IBI-Inhalte auf X, LinkedIn, Facebook und Substack bewarben. Der Chatbot bekam dabei eine ganz konkrete Anweisung: jegliche sprachlichen Hinweise auf die russische Herkunft zu verbergen. Das ist der Teil, der mich als KI-Berater eigentlich mehr beschäftigt als die geopolitische Dimension. Denn genau hier zeigt sich ein Muster, das ich in meiner Beratungsarbeit mit EPU und KMU in der DACH-Region ständig beobachte, nur eben mit umgekehrtem Vorzeichen: Wer KI zur Textgenerierung einsetzt, ohne die Ergebnisse gegenzuprüfen, produziert Spuren, die er selbst nicht mehr kontrolliert.
Bei einem seriösen Unternehmen ist das ein peinlicher Tonfall-Bruch. Bei einer Propagandakampagne ist es der Anfang vom Ende der Tarnung. Das Phänomen, dass Sprachmodelle mit gezielt eingespeisten Falschinformationen gefüttert werden, um ihre Antworten zu verzerren, wird in der Fachwelt als LLM Grooming bezeichnet, und der aktuelle Fall ist im Grunde die produktive Seite davon: Statt das Training zu vergiften, wurde das fertige Modell einfach als Textfabrik missbraucht.
Svetofor statt Ampel: Der Fehler, der alles verriet
Und jetzt kommt der Teil, der die meisten überrascht. In einem Artikel auf der IBI-Website tauchte der Begriff „Svetofor-Koalition“ auf, gemeint war die deutsche Ampelkoalition. „Svetofor“ bedeutet in mehreren slawischen Sprachen schlichtweg Ampel. Das ist ein eindeutiger Hinweis auf eine wörtliche Maschinenübersetzung aus dem Russischen, bei der niemand den Output noch einmal gegengelesen hat.
Das macht Sinn, wenn man bedenkt, wie viele Kampagnen dieser Art auf Geschwindigkeit statt auf Sorgfalt setzen. Zusätzlich bespielten die Betreiber verschiedene Telegram-Kanäle, für die sie ebenfalls Logos generieren ließen. Ein deutschsprachiger Kanal namens „Lahme Ente“ kritisierte dort routinemäßig die Bundesregierung, die EU sowie die Ukraine und warb für bessere Beziehungen zu Russland. Schauen wir mal genauer hin, was das inhaltliche Kernstück der Kampagne eigentlich war.
Ein Souveränitätsindex und die Frage nach der echten Reichweite
Das Kernstück, ein sogenannter Souveränitätsindex, stammte laut OpenAI vermutlich aus einer anderen Quelle als der eigentlichen IBI-Infrastruktur. Der Index lobte Russland und attackierte gezielt jene Staaten, die den russischen Angriffskrieg gegen die Ukraine kritisieren. Die USA hätten unter Donald Trump angeblich an Autonomie verloren, Deutschland brauche militärische Eigenständigkeit statt amerikanischer Stützpunkte. Klassische Spaltungsnarrative, nur eben mit dem Anstrich akademischer Seriosität verpackt.
Trotz der aufwendig aufgebauten Infrastruktur blieb die tatsächliche Wirkung erstaunlich klein. Die meisten Social-Media-Beiträge erhielten kaum Aufrufe, nur die Telegram-Kanäle kamen auf jeweils zehntausend bis zwanzigtausend Abonnenten. OpenAI stuft die Kampagne auf der sogenannten Brookings Breakout Scale in die untere Kategorie drei ein.
Was ist die Brookings Breakout Scale? Es handelt sich um ein fünfstufiges Bewertungsmodell für Einflussoperationen, entwickelt am Brookings-Institut. Es misst nicht, wie professionell eine Kampagne aufgebaut ist, sondern wie stark sie tatsächlich über ihre eigene, gesteuerte Infrastruktur hinaus in unabhängige Medien und Communitys durchgedrungen ist. Kategorie drei bedeutet: sichtbar für Analysten, aber ohne nennenswerten Durchbruch in die breite Öffentlichkeit.
Was Unternehmen und Privatpersonen daraus mitnehmen sollten
Ich bin mir da nicht ganz sicher, ob dieser eine Fall repräsentativ für die gesamte Bandbreite russischer Einflussoperationen ist, aber mein Eindruck aus der laufenden Berichterstattung ist: Die meisten dieser Kampagnen scheitern nicht an fehlender Technik, sondern an genau solchen Kleinigkeiten. Das ist für dich als Unternehmer relevant, weil es zwei Dinge gleichzeitig zeigt.
Erstens: KI-generierte Inhalte hinterlassen Spuren, wenn niemand sie gegenliest. Das gilt für Propaganda genauso wie für einen schlecht redigierten Newsletter oder eine automatisch übersetzte Produktbeschreibung im eigenen Onlineshop. Ich hab das letzte Woche mit einem EPU-Kunden durchgearbeitet, der seine gesamte Website-Kommunikation über ein Übersetzungstool laufen ließ, ohne die Ausgabe fachlich zu prüfen. Die Fehler waren zwar nicht politisch brisant, aber genauso verräterisch: Sie zeigten sofort, dass da niemand mehr mitdenkt.
Zweitens, und das ist der Teil, der oft untergeht: OpenAI selbst betreibt inzwischen aktive Aufklärung gegen den Missbrauch der eigenen Modelle, ein Schritt, der auch im Rahmen der freiwilligen Selbstverpflichtung gegenüber der EU an Bedeutung gewinnt. Das ändert nichts daran, dass die Verantwortung am Ende bei den Menschen liegt, die diese Werkzeuge einsetzen, ob zur Aufklärung oder zur Täuschung. Genau dieses Muster beobachte ich seit Jahren in meiner Beratungsarbeit: Die Technologie ist neutral, aber die Absicht dahinter nie.
Für deinen eigenen Alltag heißt das konkret: Bei jeder Information, die dich extrem aufregt oder extrem bestätigt, lohnt sich ein zweiter Blick auf die Quelle. Prüf, ob die Website ein echtes Impressum hat. Prüf, ob etablierte Medien die Information ebenfalls aufgreifen. Und ganz besonders bei internationalen Quellen: Achte auf sprachliche Eigenheiten, die nicht zum angeblichen Herkunftsland passen. Wie du solche Anzeichen im Alltag konkret erkennst und einordnest, hab ich in einem eigenen Artikel ausführlicher aufgeschlüsselt.
Häufige Fragen zum Fall
Die Wahrheit über diesen Fall ist unspektakulär und genau deshalb wichtig: Eine gut finanzierte, geopolitisch motivierte Kampagne mit professioneller Fassade ist letztlich an einem einzigen unübersetzten Wort gescheitert. Das nimmt die Bedrohung durch KI-gestützte Desinformation nicht aus der Welt. Aber es zeigt, dass Sorgfalt, auf beiden Seiten dieses Spiels, immer noch der entscheidende Faktor ist. Du kannst dich darauf verlassen, dass die nächste Kampagne besser gemacht sein wird. Oder du fängst jetzt an, genauer hinzuschauen.
