Elon Musk hat es mal wieder übertrieben. Nachdem der Onlinedienst X wegen mit künstlicher Intelligenz erzeugter sexualisierter Bilder unter enormen Druck geraten ist, will man das „Entkleiden“ von Menschen durch den Chatbot Grok künftig verhindern.

Es seien entsprechende „technische Maßnahmen“ ergriffen worden, erklärte der Konzern von US-Milliardär Elon Musk. Die EU-Kommission will die Änderungen nun „sorgfältig prüfen“ und drohte im Falle weiterer Rechtsverstöße mit der kombletten Sperrung von X in Europa.

Elon Musk muss „Entkleiden“-Funktion entschärfen

„Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass über den Grok-Account Bilder von realen Personen in freizügiger Kleidung wie Bikinis erarbeitet werden können“, erklärte das Sicherheitsteam von X. „Diese Einschränkung gilt für alle Nutzer, auch für zahlende Abonnenten.“ Zudem solle die Erstellung und Bearbeitung von Bildern über den Grok-Account ab sofort ausschließlich zahlenden Abonnenten möglich sein.

Allerdings blieb die regionale Gültigkeit der neuen Maßnahmen zunächst unklar: Diese sollten durch eine „geografische Sperre“ erfolgen - „innerhalb von Rechtsordnungen, in denen dies illegal ist“, erklärte X. In Deutschland und der Europäischen Union sind wie in vielen anderen Ländern auch Fälschungen wie die Grok-Bildbearbeitungen verboten.

Die EU-Kommission will die Umsetzung der neuen Maßnahmen nun beobachten. „Sollten diese Änderungen nicht wirksam sein, werde die Kommission nicht zögern, ihr gesamtes legislatives Arsenal auszuschöpfen, das es ihr erlaubt, finanzielle Strafen zu verhängen oder das soziale Netzwerk sogar auf ihrem Gebiet zu sperren.“

Kalifornien greift gegen „Grok remove“ vor

Wenige Stunden vor der X-Stellungnahme hatte auch der US-Bundesstaat Kalifornien eine Untersuchung gegen Grok eröffnet. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob Musks KI-Firma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat.

Stein des Anstoßes ist der neue „Spicy Mode“ (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen können - etwa mit Aufforderungen wie „entferne ihre Kleider“ oder „ziehe ihr einen Bikini an“.

Vergangene Woche hatte der zu X gehörende Chatbot-Betreiber xAI die sexualisierte Bildfunktion des Chatbots zunächst auf zahlende X-Nutzer beschränkt. Die neuesten Maßnahmen gelten nun jedoch für alle.

„Grok remove“ war auch ständig auf in den Twittertrends. Auch die Erstellung und Verbreitung kinderpornografischer Inhalte ist damit möglich.

Grok fiel schon mehrmals negativ auf

Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Die Philippinen kündigten ihrerseits am Donnerstag an, den Zugang zu Grok noch im Laufe des Tages für alle seine Einwohner zu sperren. 

Grok war bereits mehrfach negativ aufgefallen. So hatte die KI etwa im Zusammenhang mit dem antisemitischen Attentat am Bondi Beach in Sydney Falschnachrichten verbreitet. Ende November bestätigte die Pariser Staatsanwaltschaft bereits Ermittlungen wegen mutmaßlicher Holocaust-Leugnung. Entsprechende Aussagen des Chatbots würden derzeit geprüft.

Verrat um „GTA 6“

Info-Leak löst Entlassungswelle bei „Rockstar Games“ aus – Fans euphorisiert

Merken

Merken

Bei Grok handelt es sich um ein Programm mit Künstlicher Intelligenz, das vor allem Wissensfragen beantworten soll. Die KI wurde 2023 von Elon Musks Firma xAI vorgestellt und den Nutzern der Plattform X zugänglich gemacht.

Elon Musk hat Twitter im Oktober 2022 für 44 Milliarden US-Dollar gekauft. Der Deal umfasste eine Kombination aus Eigenkapital, Krediten und Beteiligungen anderer Investoren. Der Kaufpreis betrug 54,20 US-Dollar pro Aktie. (mbr/afp)