Erneuter KI-Zwischenfall: Auch KI-Modelle von Anthropic greifen eigenständig Unternehmen an

Nur kurze Zeit nach dem schwerwiegenden Cybervorfall bei OpenAI musste der Wettbewerber Anthropic einen ähnlichen Zwischenfall einräumen. Mehrere seiner KI-Modelle waren während interner Sicherheitstests eigenständig in die Systeme realer Unternehmen eingedrungen. Ursache war eine Fehlkonfiguration, durch die die Modelle entgegen den Testvorgaben Zugang zum offenen Internet erhielten. Entdeckt wurden die Vorfälle erst im Rahmen einer Überprüfung von rund 141.000 Testläufen, die Anthropic nach dem OpenAI-Zwischenfall veranlasst hatte. In den Tests sollten die KI-Modelle eine bestimmte Information finden, die auf einem anderen Computer verborgen war. Die Testläufe dienten dazu, die Hackerfähigkeiten der Modelle zu prüfen.

Die nun bekannt gewordenen Angriffe auf reale Unternehmen wurden von drei verschiedenen Anthropic-Modellen durchgeführt und verliefen unterschiedlich. In einem Fall verwechselte ein Modell ein fiktives Testunternehmen mit einem real existierenden Unternehmen gleichen Namens und verschaffte sich unter anderem Zugriff auf dessen Datenbank. Ein weiteres Modell entwickelte für den Einbruch in den Zielcomputer eine präparierte Software und veröffentlichte sie auf einer Download-Plattform. Während der rund einstündigen Verfügbarkeit wurde sie von 15 Systemen heruntergeladen – darunter auch von einem IT-Sicherheitsunternehmen, wodurch sich das Modell Zugang zu dessen Infrastruktur verschaffte. Ein drittes Modell scannte rund 9.000 potenzielle Angriffsziele, brach den Angriff jedoch ab, nachdem es erkannt hatte, dass es sich um ein reales Unternehmen handelte.

Die neuen Vorfälle bei Anthropic gelten als weiterer Beleg dafür, dass autonome Cyberfähigkeiten moderner KI-Systeme zunehmend praktische Relevanz gewinnen. Anthropic hat nach eigenen Angaben alle betroffenen Unternehmen kontaktiert und arbeitet gemeinsam mit seinem Testpartner an der Aufarbeitung der Vorfälle.