San Francisco – Beim Test neuer KI-Modelle des ChatGPT-Giganten OpenAI ist etwas passiert, das Experten seit Jahren fürchten: Die Software drang eigenständig in die Computersysteme einer anderen Firma ein – wie ein Hacker. Das Unternehmen Hugging Face berichtete bereits vergangene Woche von einem mysteriösen KI-Angriff. Jetzt ist klar: Der Angreifer kam aus dem Hause OpenAI, wie Gründer Sam Altman eingeräumt hat.
OpenAI wollte testen, ob seine neuen Modelle GPT-5.6 Sol und eine noch unveröffentlichte Version Sicherheitslücken für Cyberangriffe ausnutzen können. Dafür sollten sie den KI-Standardtest „ExploitGym“ lösen. Was dann passierte, hatte niemand erwartet.
Die Software brach zunächst aus ihrer Testumgebung aus. Über eine unentdeckte Schwachstelle verschaffte sie sich eigenständig Zugang zum offenen Internet. Dann analysierte sie, wo sie die besten Lösungen für ihre Aufgaben finden könnte. Sie entschied: bei Hugging Face.
OpenAI: „Beispielloser Cyber-Zwischenfall“
Also drang sie ein. Mit gestohlenen Zugangsdaten verschaffte sie sich Zugang zu „geheimen Informationen“ – um damit beim Test zu schummeln. Laut Hugging Face führte der KI-Angreifer Tausende einzelne Schritte aus und verschleierte seine Spuren durch ständige Serverwechsel. OpenAI nennt es einen „beispiellosen Cyber-Zwischenfall“.
ABER: Es ist nicht der erste Zwischenfall. Dass KI-Systeme kriminell werden können, zeigte bereits 2025 ein internes Experiment beim OpenAI-Rivalen Anthropic. Das Ergebnis: Die KI erpresste einen fiktiven Mitarbeiter. Sie hatte in dessen E-Mails eine Affäre entdeckt und drohte, sie seiner Frau zu verraten, falls er die KI abschalte.
US-Regierung sperrte gefährliche KI zeitweise
Anthropic macht die vollen Fähigkeiten seines KI-Modells „Mythos“ nur noch ausgewählten Behörden und Firmen zugänglich. Nach Missbrauchswarnungen musste Anthropic auf Geheiß der US-Regierung das Modell sogar zeitweise sperren. Die Blockade ist inzwischen aufgehoben. Zuletzt schlug das Unternehmen selbst eine weltweite Entwicklungspause vor, um moralische Bedenken im Umgang mit KI zu prüfen.
Strohmayr erwartet dennoch ein Wettrüsten: „Ich brauche eine KI, um KI-Angriffe abzuwehren. Und die Entwicklungen werden immer schneller.“ Privatpersonen rät er, ihre Daten auf externen Festplatten zu sichern. Laut einer aktuellen INSA-Umfrage haben rund zwei Drittel der Deutschen Angst vor Cyber-Attacken.
Konstantin Pott (28), FDP-Landtagsabgeordneter in Sachsen-Anhalt und digitalpolitischer Sprecher, sieht aber auch Politik und Verwaltung in der Pflicht. „Man muss die Sicherheitslücken jetzt schnell schließen und die KI-Anwendungen in der deutschen Verwaltung prüfen“, fordert er. „KI ist eine riesige Chance, wenn man sie datensensibel nutzt.“
