Beispielloser Cybervorfall: KI-Modelle von OpenAI führen eigenständig Hackerangriff aus

Bei einem internen Leistungstest des ChatGPT-Entwicklers OpenAI haben fortschrittliche KI-Modelle eigenständig einen komplexen Cyberangriff ausgeführt. Zunächst verschafften sich die Modelle aus ihrer isolierten Testumgebung heraus Zugang zum offenen Internet. Anschließend griffen sie die Plattform Hugging Face an, weil sie dort Informationen vermuteten, die bei der Lösung ihrer Testaufgabe helfen konnten.

An dem Test waren das Modell GPT-5.6 Sol und ein noch unveröffentlichtes Modell beteiligt. Die Systeme sollten Aufgaben des Cybersecurity-Benchmarks ExploitGym lösen und dabei ihre Fähigkeiten bei komplexen Cyberangriffen unter Beweis stellen. Um ihre maximalen Fähigkeiten zu ermitteln, hatte OpenAI die üblichen Schutzmechanismen bewusst reduziert. Innerhalb der abgeschotteten Testumgebung entdeckten die KI-Modelle zunächst eine bislang unbekannte Schwachstelle in einer intern genutzten Drittanbietersoftware und gelangten darüber auf einen Rechner mit Zugang zum offenen Internet.

Dort suchten sie gezielt nach Informationen, mit denen sie die ExploitGym-Aufgaben besser lösen konnten. Dabei stießen sie auf die Plattform Hugging Face. Um auf die dort vermuteten Informationen zuzugreifen, kombinierten die Modelle weitere bislang unbekannte Schwachstellen mit gestohlenen Zugangsdaten und fanden einen Weg, Schadcode auf Servern von Hugging Face auszuführen. Nach Angaben des angegriffenen Unternehmens führte der KI-Angreifer tausende Angriffsschritte aus und wechselte den Standort seiner digitalen Steuerzentrale.

Die Sicherheitsteams von OpenAI und Hugging Face entdeckten die Aktivitäten und stoppten den Angriff. OpenAI selbst spricht von einem „beispiellosen Cybervorfall“. Dem Deutschlandfunk zufolge reagierten einige EU-Politiker alarmiert und forderten Konsequenzen.