Das Thema Deepfakes ist durch den Fall Collien Fernandes in den Fokus der Öffentlichkeit gerückt. Doch die Schauspielerin ist nicht die einzige Prominente, die von solchen gefälschten Videos betroffen ist. Der Arzt und Wissenschaftsjournalist Eckart von Hirschhausen (58), bekannt etwa durch Sendungen wie „Was kann der Mensch?“ oder „Wissen vor acht – Erde“, bemerkte vor einigen Jahren, dass Betrüger mit Videos, in denen er angeblich Medikamente bewirbt, viel Geld machen und Menschen in Gefahr bringen. In der Dokumentation „Hirschhausen und die Deepfake-Mafia“ geht er dem auf die Spur. Die Sendung läuft am Montag, 4. Mai, ab 20.15 Uhr im Ersten und ist bereits ab dem 1. Mai in der Mediathek streambar.

Eckart von Hirschhausen, wann sind Sie das erste Mal auf Deepfakes mit Ihrem Gesicht aufmerksam geworden?

Das ging vor ungefähr fünf Jahren los und initial aufmerksam darauf geworden bin ich durch Fans, die das gesehen und mir gemailt haben. Damals dachte ich: Das lässt sich sicher schnell aus der Welt räumen (lacht). Fünf Jahre später bin ich dieser Deepfake-Mafia immer noch auf der Spur, und ich ahne mit jeder weiteren Recherche und Quelle erst, welche Dimension dieses Thema hat, juristisch, politisch, journalistisch und für unsere Demokratie. Deswegen freue ich mich über die Aufmerksamkeit, die gerade auf KI und Deepfake ist und die auch viele Frauen noch ganz anders trifft als mich.

Deepfakes reichen ja in die verschiedensten Bereiche – Medizin und Pornografie sind nur zwei Beispiele.

Ja, und wir haben das Thema als journalistische Kolleginnen und Kollegen auch lange nicht ernst genug genommen, weil wir meinten, man müsse damit leben, dass Leute ein bisschen an ihrem Computer herumbasteln und Schrott verbreiten. Die Fakes waren am Anfang auch noch so schlecht gemacht und leicht zu erkennen, aber das ist heute nicht mehr so. Inzwischen sind Deepfakes gerade mit Medikamenten und Heilsversprechen oder mit dubiosen Finanzprodukten ein Milliardengeschäft. Ich weiß aber auch von vielen politischen Journalistinnen und Journalisten, die über den Ukraine-Krieg berichten, wie sie ins Visier der russischen Desinformation geraten. Es geht im Kern um die Frage, wem wir überhaupt noch glauben können, wie wir zwischen wahr und gelogen unterscheiden. Desinformation war immer schon gefährlich, aber wir hinken einer rasanten Entwicklung von KI-Software und Verbreitungswegen brutal hinterher.

Sie sind sowohl Betroffener als auch aktiv in der Aufklärung. Wie gehen Sie mit dieser Doppelrolle um?

Das ist nicht immer einfach, und psychisch zwischenzeitlich extrem belastend. Rufmord, Identitätsdiebstahl und Psychoterror – das bräuchte ich alles nicht in meinem Leben. Ich habe durch die Doku und die vielen Recherchen auch des Teams Dinge gelernt, die ich nie wissen wollte, zum Beispiel wie viele hochpersönliche Daten über jeden von uns im Netz käuflich sind, oder wie professionell sich die Deepfake-Mafia tarnt und im Ausland alle Spuren verwischt. Ich berichte als Journalist über die Hintergründe und merke als Betroffener, wie sehr es mir an die Nieren geht, wenn durch Deepfakes der Glaube an unseren Rechtsstaat, an Institutionen wie die Öffentlich-Rechtlichen und an die wehrhafte Demokratie ins Wanken gerät. Ich bin im Austausch mit vielen anderen namhaften Betroffenen, die mich fragen, wie man gegen die Fakes vorgeht, weil es momentan keine koordinierte Antwort gibt auf dieses Problem, von dem viel mehr betroffen sind als man denkt und weiß.

Welche Wege haben Sie bisher juristisch und politisch ausgeschöpft, um gegen die Deepfakes vorzugehen? Letztes Jahr haben Sie ja unter anderem per Beschluss vom Oberlandesgericht Frankfurt erwirkt, dass der Konzern Meta zahlreiche Videos löschen und viel umfassender gegen Deepfakes vorgehen muss als bisher.

Ja, einzelne angezeigte Fakes wurden dann auch gelöscht. Aber das Tempo ist absurd langsam und es gibt keine Strafen, wenn es nicht passiert. Geltendes Recht wird nicht durchgesetzt. Leider bin ich nicht nur bei den Zuschauern populär, sondern auch bei den Betrügern. Das Österreichische Institut für angewandte Telekommunikation hat ermittelt, dass es allein im letzten Monat von mir 14.600 Fake-Anzeigen gab. Und davon hat Meta nur 30 Prozent gelöscht. Nun habe ich die Möglichkeit gehabt, das durchzufechten, aber das hat viel Kraft gekostet. Die Rechtslage hängt der technischen Entwicklung eklatant hinterher. In meinem Fall wurde das über Persönlichkeitsrecht und Verleumdung verhandelt, aber im Kern ist es Markenrecht und Wettbewerbsrecht. Ich habe auch mit Menschen in der EU dazu gesprochen, und der Verbraucherschutz bei Gesundheitsthemen ist eigentlich leichter durchzusetzen als Persönlichkeitsrechte, bei denen es mehr Graubereiche gibt.

Wie waren Ihre Erlebnisse mit dem Konzern Meta, gegen den Sie geklagt haben, weil die dazugehörenden Plattformen verpflichtet sind, betrügerische Inhalte zu suchen und entfernen, und dem nicht nachkommen?

Die Dreistigkeit, mit der sich die Meta-Anwälte mir gegenüber doof gestellt haben und gesagt haben „Wir wissen ja gar nicht, ob Sie das nicht selbst produziert haben“, hat das Oberlandesgericht Gott sei Dank ausgeräumt. Da hieß es sinngemäß: „Ihr verkauft selbst KI-Software, um Anzeigen zu prüfen, natürlich wisst ihr, was alles Betrug ist und was nicht.“ Das juristisch Interessante an dem Urteil ist, dass die Plattformen seitdem verpflichtet sind, auch „sinngleiche“ Fakes zu löschen, also Kopien mit minimalen Änderungen. Und dass die Justizministerin Stefanie Hubig in ihrem Gesetzesentwurf auf meinen Fall eingeht mit dem Paragrafen 201b, der schon als „Hirschhausen-Paragraf“ bezeichnet wird.

Was bedeutet das genau?

In der Begründung ist von „einem bekannten Arzt“ die Rede. Der Hirschhausen-Paragraf soll auch Fakes unter Strafe stellen, die nichts mit sexualisierter Gewalt zu tun haben, aber gezielt Gesicht, Stimme oder TV-Ausschnitte manipulieren, um „den Anschein wirklichkeitsgetreuer Aufnahmen zu erwecken“. Es war nie auf meiner Bucket List, als Paragraf zu enden. Aber dann hätte sich der Kampf nicht nur für mich, sondern für alle anderen in Zukunft gelohnt.

Was müsste passieren, damit die großen Plattformen umsetzen, wozu sie eigentlich verpflichtet sind? Die EU-Kommission hat Ende letztens Jahres bereits wegen mangelnder Transparenz bei Werbung und Nutzerkonten eine Strafe in Höhe von 120 Millionen Euro gegen die Plattform X verhängt, aber das bewirkt offenbar nicht viel.

Diese Strafzahlungen werden angedroht und in diesem Fall auch umgesetzt, aber wenn man die Dimensionen kennt, in denen die Plattformen jedes Jahr Geld verdienen – die lachen darüber. Bis jetzt hat das nicht viel gebracht, weil die natürlich auch auf Plattformseite teure Anwälte haben, dann wird das Ganze angefochten, verzögert und so weiter. Ich musste zum Beispiel über Irland korrespondieren, weil der Sitz von Meta dorthin verlegt wurde, weil sie da kaum Steuern zahlen. Ich bin entsetzt, was ich alles auf der Recherchereise gelernt habe.

Nach all diesen Erkenntnissen: Was muss passieren, um Deepfakes erfolgreich zu bekämpfen?

Es muss ein einfaches Beschwerdeverfahren geben. Jeder Bürger und jede Bürgerin dieses Landes muss, wenn er oder sie etwas sieht, was mit ihm, ihr oder jemand anderem sträfliches angestellt wird, sofort eine Möglichkeit haben, das zu melden, ohne dass man es wahnsinnig kompliziert macht und Anwälte benötigt. Zweitens muss es Fristen geben für die Plattformen, nach denen sie handeln müssen. Und es muss empfindliche Strafen geben, wenn sie das nicht tun. Darüber hinaus braucht es eine Strafbarkeit von Deepfakes ab der Herstellung, nicht erst ab der Verbreitung. Es braucht ein Urheberrecht am eigenen Gesicht und der eigenen Stimme. Ohne Einwilligung darf keiner das Recht haben, das irgendwie zu nutzen.

Haben Sie ein Beispiel, wo das besser funktioniert als in Deutschland?

Dänemark hat genau das im letzten Jahr verabschiedet. Und mir leuchtet nicht ein, warum wir das nicht viel schneller auch europaweit so regeln. Da ist Deutschland im Moment zögerlich und versucht jetzt zwar, das geltende Recht zu erweitern in Richtung Deepfakes. Aber da gibt es zu viele Weichspülerparagrafen, wie etwa der, dass ich nachweisen muss, dass ein erheblicher Schaden durch einen Deepfake entstanden ist. Wenn wir solche Schlupflöcher lassen, kommen wir nie an den Kern des Problems.

Wie gefährdet all das auch unsere Demokratie?

Diese Monopolisierung von Aufmerksamkeit und dass eine Handvoll Tech-Oligarchen die Hand aufhält, wenn man Menschen etwas mitteilen will, ist ein Kernproblem unserer Demokratie. Gleichzeitig steht der Journalismus, der auf Recherche und Prinzipien des Factcheckings beruht, massiv unter Druck. Wir müssen verteidigen, dass das Unterscheiden und Sortieren von Schrott von Wahrheit ein Handwerk ist. Aber das wird immer schwerer, weil die Fakes immer besser werden und weil die Ressourcen für Leute, die dagegen vorgehen, immer weniger werden. Es gibt Landstriche, in denen sich Menschen ihr Weltbild maßgeblich aus ihrer Telegram-Gruppe zusammenbasteln und nicht mehr den Unterschied verstehen, ob sie etwas auf TikTok, Telegram oder in der „Tagesschau“ gesehen haben.

Was kann man dem entgegensetzen?

Mehr Transparenz und aktive Kommunikation über den Wert von Qualitätsjournalismus und dem Öffentlich-Rechtlichen für unsere Demokratie. Hinter meiner Doku stecken ein Team aus Redaktion, Produktion, eine aufwendige Recherche und viel Zeit und Aufwand, um nachher zu diesen 45 Minuten Sendung zu kommen. Und wenn man vom „Tagesschau“-Studio in den Newsroom geht, sitzen da 100 Leute Tag und Nacht und sortieren Nachrichten. Diese Arbeit wird aber nie gezeigt. Nachher stehen da Jessy Wellmer oder Ingo Zamperoni und wenn man sich nicht damit beschäftigt, denkt man, die haben sich das allein ausgedacht. Wir müssen viel aktiver erklären, was der Wert von Recherche und Journalismus ist. Und dass bei aller berechtigten Kritik ich nie in einem Urlaubsland beim Zappen dachte – ach das Fernsehprogramm ist besser als das, was wir haben.

Sie haben auch mit Bundesjustizministerin Stefanie Hubig (SPD) gesprochen. Die bereitet aktuell – ausgehend vom Fall Collien Fernandes – ein Gesetz vor, das das Erstellen und Verbreiten sexualisierter Deepfakes unter Strafe stellen soll. Würde uns das in der Bekämpfung von Deepfakes erheblich weiterbringen oder muss das noch mehr beinhalten?

Es ist ein Schritt in die richtige Richtung, aber noch nicht mutig genug. Die Frage ist: Wer findet die Deepfakes, wer verfolgt sie und wer setzt die Strafen am Ende durch? Ich habe auch mit Collien Fernandes und mit HateAid gesprochen. Da ist die Erfahrung: Ausgerechnet die Leute, die sich engagieren und selbst betroffen sind, bekommen noch mal ungefiltert im Netz Hass und Häme ab. Aber Menschenrechte gelten auch im Digitalen. Ich habe das Gefühl, dass das immer noch verharmlost wird. Jeder hat das Recht auf eine eigene Meinung. Aber Hass ist keine Meinung.

Durch den Fall Collien-Fernandes hat das Thema Deepfakes gerade eine große Aufmerksamkeit. Wie kann diese öffentliche Wahrnehmung nochmal Druck auf Entscheidungsträger ausüben, mehr zu machen?

Meine Hoffnung ist, dass wir dieses Momentum jetzt endlich haben. Die Gesetzesänderungen müssen konkretisiert werden. Es darf nicht einzelnen Menschen überlassen werden, sich zu wehren. Ich würde mir wünschen, dass wir sowohl in der deutschen als auch in der europäischen Gesetzgebung diesen Schwung nutzen, um uns unabhängiger zu machen von diesem Druck aus China, Russland und den USA. Wir stehen gerade an einem historischen Moment, in dem wir Dinge verteidigen müssen, die wir für selbstverständlich und sicher gehalten haben und die unter Beschuss sind. Wir brauchen echte Nachrichten, von echten Menschen – für echte Menschen.