Der KI-Chatbot Grok steht erneut massiv in der Kritik. Auf der Plattform X wurden mit dem System sexualisierte Bilder von Frauen und auch Minderjährigen erstellt. In Frankreich reagierten mehrere Minister mit Strafanzeigen gegen X. Die Inhalte seien „sexuell und sexistisch“ sowie „offensichtlich illegal“.

Eine Analyse der Nachrichtenagentur Reuters zeigt, dass Grok in zahlreichen Fällen entsprechende Aufforderungen von Nutzern umsetzte. Betreiber Elon Musk reagierte auf die Kontroverse laut Reuters mit Lach-Emojis. Später kündigte er auf seiner Plattform an, gegen illegale Inhalte vorzugehen.

Nach Bekanntwerden der Vorwürfe räumte die KI selbst Fehler ein. Auf X erklärte Grok, es seien „Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt“ worden, die nun „mit größter Dringlichkeit“ behoben würden. Zugleich stellte der Chatbot klar: „Die Verbreitung von kinderpornografischem Material ist illegal und verboten.“

Grok entschuldigt sich für „Versagen unserer Sicherheitsvorkehrungen“

Bereits an Silvester hatte sich Grok dafür entschuldigt, Bilder von zwei minderjährigen Mädchen „in sexualisierten Outfits“ erstellt zu haben. Es habe sich um ein „Versagen unserer Sicherheitsvorkehrungen“ gehandelt. Laut weiteren Angaben gab es Fälle, in denen Nutzer „KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten“ hätten.

Der Tech-Milliardär und Betreiber der Plattform X, Elon Musk, hatte Grok bereits selbst aufgefordert, ein Bild von sich im Bikini erstellen zu lassen. Das angefertigte Foto kommentierte der Unternehmer mit dem Wort „Perfekt“.

„Grok“ sorgt für Nazi-Eklat

Elon Musks KI empfiehlt Adolf Hitler gegen die Flutkatastrophe in Texas

Von

David Schmitz

Merken

Merken

Grok war schon zuvor negativ aufgefallen. Unter anderem wird in Paris wegen mutmaßlicher Holocaust-Leugnungen ermittelt, auch Falschinformationen nach einem antisemitischen Attentat hatten Kritik ausgelöst. Nun prüfen Behörden erneut, welche Konsequenzen die aktuellen Vorfälle haben könnten. (sbo/dpa)