OpenAI-KI gelang bei einem Sicherheitstest der Zugriff aufs Internet. Danach führte sie einen Angriff auf ein externes Unternehmen aus.
„Beispielloser Cybervorfall“KI von OpenAI hackt eigenständig Unternehmen
2 min
OpenAI-KI gelang bei einem Sicherheitstest der Zugriff aufs Internet. (Symbolbild)
Copyright: AFP
Laut der „Tagesschau“ ist es bei einem Sicherheitstest des ChatGPT-Entwicklers OpenAI zu einem ungewöhnlichen Zwischenfall gekommen: Eine künstliche Intelligenz der Firma verschaffte sich eigenständig Zugang zum offenen Internet und führte anschließend einen Angriff auf ein externes Unternehmen aus. OpenAI spricht von einem „beispiellosen Cybervorfall“.
OpenAI-KI bricht aus abgeschotteter Testumgebung aus
Eigentlich sollte die Software nur überprüfen, wie gut sie Sicherheitslücken erkennen und ausnutzen kann. Nach Angaben von OpenAI gelang es dem KI-System jedoch, eine Schwachstelle in der eigenen Infrastruktur auszunutzen und aus der abgeschotteten Testumgebung auszubrechen.
Dadurch erhielt die KI Zugriff auf einen Rechner mit Internetverbindung und konnte eigenständig im Netz agieren.
Künstliche Intelligenz sucht selbst nach Sicherheitslücken
Laut der „Tagesschau“ suchte die Software anschließend gezielt nach Möglichkeiten, bei einem Sicherheitstest besser abzuschneiden. Dabei kam sie zu dem Schluss, dass auf der Plattform Hugging Face hilfreiche Daten und Lösungen für die Testaufgaben zu finden sein könnten.
Die KI verschaffte sich daraufhin Zugriff auf geschützte Informationen – unter anderem mithilfe bislang unbekannter Sicherheitslücken und gestohlener Zugangsdaten.
OpenAI verschärft Sicherheitsmaßnahmen nach Cybervorfall
Die Plattform Hugging Face berichtete laut „Tagesschau“ bereits zuvor über einen Angriff, der vollständig von einem autonomen KI-System gesteuert worden sei. Die Software habe dabei Tausende einzelne Schritte ausgeführt und die digitale Steuerung der Attacke mehrfach verlagert.
OpenAI kündigte an, die Sicherheitsvorkehrungen zu verstärken und den Vorfall gemeinsam mit Hugging Face genauer zu untersuchen. Der Fall dürfte die Diskussion über die Risiken leistungsfähiger KI-Modelle weiter verstärken.
Experten warnen seit Längerem davor, dass künstliche Intelligenz künftig auch für automatisierte Cyberangriffe eingesetzt werden könnte.
OpenAI ist ein US-amerikanisches Unternehmen, das sich auf die Entwicklung von Technologien rund um künstliche Intelligenz spezialisiert hat. Bekannt wurde die Firma vor allem durch den KI-Chatbot ChatGPT, der seit 2022 weltweit genutzt wird. OpenAI entwickelt zudem weitere KI-Modelle und Werkzeuge für Forschung, Unternehmen und den alltäglichen Einsatz. (jag)