Das ist der Alptraum vieler Menschen, die soziale Netzwerke nutzen: Auf den Plattformen tauchen gefälschte Fotos auf, die mit künstlicher Intelligenz (KI) generiert wurden. Um Personen zu verunglimpfen, werden regelmäßig Bilder erzeugt, die Menschen zum Teil in sexuellen Posen zeigen. Den Opfern fällt es schwer, gegen diesen Missbrauch von KI vorzugehen.

NRW-Justizminister Benjamin Limbach will das jetzt ändern. „Der Rechtsstaat darf nicht kapitulieren, nur weil eine Rechtsverletzung durch KI-Algorithmen geschieht“, sagte der Grünen-Politiker dem „Kölner Stadt-Anzeiger“: „Wer die Werkzeuge für sexuelle Erniedrigung bereitstellt, muss für den Schaden persönlich und finanziell geradestehen“, sagte Limbach.

Bislang konnten Internetbenutzer auf bestimmten Plattformen mit Hilfe von KI-Dialogsystemen (Chatbots) echte Fotos manipulieren. So konnten per Knopfdruck zum Beispiel Kleider durch Bikinis ersetzt werden. Malaysia und Indonesien sperrten den Zugang zum Chatbot Grok, der zu xAI gehört, einem von Elon Musk gegründeten Unternehmen für künstliche Intelligenz.

Ermittler schätzen, dass durch Grok innerhalb von kurzer Zeit drei Millionen sexualisierte Bilder erzeugt wurden, darunter 23.000 Darstellungen von Kindern. „Wir dürfen nicht zulassen, dass der Körper im digitalen Raum schutzlos ist. Wenn Plattformen wie Musks ‚X‘ Schutzwälle absichtlich einreißen, um Profite zu maximieren, ist das ein direkter Angriff auf die Würde der Betroffenen“, sagte Justizminister Limbach unserer Zeitung.

Verursacher meist schwer zu greifen

Personen, die von einer Veröffentlichung durch KI-Nacktbilder betroffen sind, können in Deutschland vor den ordentlichen Gerichten dagegen klagen. Die Schwierigkeit besteht für Betroffene allerdings darin, den Verursacher der Fälschungen zu identifizieren. Dabei sind sie auf eine Auskunft des Plattformbetreibers über die Identität des Account-Inhabers angewiesen. Anfragen laufen oft ins Leere.

X-Chef pöbelt gegen Sánchez

Musk beschimpft spanischen Regierungschef als „Tyrann“ – EU geht gegen Tiktok vor

Von

Christine Meyer

Merken

Merken

Nach europäischem Recht sind Online-Diensteanbieter von einer Haftung für die von ihnen übermittelten Informationen befreit. Eine proaktive Prüfung verdächtiger Inhalte findet nicht statt. Sobald rechtswidrige Posts online sind, können sie sich in rasender Geschwindigkeit verbreiten – oft mit dramatischen Folgen für die Betroffenen. Löschansprüche nach dem Digital Services Act (DSA) sind in der Praxis kaum zeitnah durchzusetzen. Limbach will nun bei der nächsten Sitzung der Justizministerkonferenz Maßnahmen auf den Weg bringen, die die Rechte der Betroffenen klar verbessern. So sollen die Plattformbetreiber verpflichtet werden, die Verbreitung von offensichtlich rechtswidrigen Inhalten technisch zu blockieren. „Es ist unerträglich, dass Opfer von Deepfakes heute fast machtlos zusehen müssen, wie ihr Leben digital zerstört wird, während Konzerne sich hinter Haftungsprivilegien verstecken“, sagte der Justizminister unserer Zeitung. Die frühere Ampel-Bundesregierung hatte einen entsprechenden Gesetzesentwurf zwar schon ausgearbeitet, aber nicht mehr auf den Weg bringen können.

Der Vorstoß aus NRW geht nun über die Ziele der Ampel hinaus. Der Limbach-Vorstoß zielt darauf ab, für rechtswidrige Inhalte auf Online-Plattformen neben dem rechtswidrig handelnden Nutzer auch den Plattformbetreiber haftbar zu machen. Die private Rechtsdurchsetzung von Löschungs- und Schadensersatzansprüchen sollte durch einen empfindlichen Mindestschadensbetrag erleichtert werden, heißt es im NRW-Justizministerium.

In den Pauschalbetrag könne auch eine Geldentschädigung für erlittene psychische Verletzungen miteinbezogen werden. „Wir beenden das Zeitalter der organisierten Verantwortungslosigkeit“, betonte Limbach. Die NRW-Initiative sei ein Signal für eine wehrhafte Justiz: „Wir nehmen die Plattformbetreiber als Mitverantwortliche in die Pflicht – konsequent und ohne Ausnahmen“, so Limbach.

Zur möglichen Höhe eines Schadenersatzanspruchs machte das NRW-Justizministerium keine konkreten Angaben. In Rede steht offenbar ein mittlerer fünfstelliger Betrag – also circa 5000 Euro. Die Justizministerkonferenz findet im Juni in Hamburg statt.