Köln – Der digitale Fortschritt hat ein zentrales Motto: „Künstliche Intelligenz – ein Schlüssel für Wachstum und Wohlstand“. Damit ist der Digitalgipfel der Bundesregierung 2018 überschrieben, der in der kommenden Woche in Nürnberg stattfindet. Deutschland ist in der Digitalwirtschaft durchaus stark: Zwar findet sich unter den Top 20 der Internetunternehmen, die Apple, Amazon, Microsoft, Google und Facebook anführen, kein europäisches Unternehmen. Aber in der Produktion und im Geschäft zwischen Unternehmen spielt gerade Deutschland als Exportland eine bedeutende Rolle.
Wohlstand ist relativ, Menschenwürde absolut
Deutschland und Europa sollen nun auch in der Künstlichen Intelligenz (KI) führend werden. Im Verfassungsstaat geht es dabei aber nicht nur um Wohlstand. Das Streben danach ist wichtig und zugleich relativ. Absolut ist nur die Menschenwürde – sie ist dem Recht ethisch vorgegeben und ihre Unantastbarkeit bedingungslos geschützt. Wesentliches Ziel der Digitalstrategie der Bundesregierung ist es daher, dass die KI dem Menschen und der Gesellschaft dient. Sie soll „ethisch, rechtlich, kulturell und institutionell in die Gesellschaft“ eingebettet werden. Zur Bildung ihres ethischen Profils hat die Bundesregierung eine 16-köpfige Datenethikkommission einberufen, zu der auch die Verfasser gehören.
Zu den Autoren
Christiane Woopen ist Co-Sprecherin der Datenethikkommission, Vorsitzende des Europäischen Ethikrates (EGE) und geschäftsführende Direktorin des Cologne Center for Ethics, Rights, Economics, and Social Sciences of Health (ceres) der Universität zu Köln.
Rolf Schwartmann leitet die Kölner Forschungsstelle für Medienrecht an der TH Köln und ist Mitglied der Datenethikkommission. Er leitet für das Bundesinnenministerium die Fokusgruppe Datenschutz im Rahmen des Digitalgipfels 2018 und ist Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit.
KI soll das Leben sicherer, leichter, angenehmer und gesünder machen und nimmt dafür die menschliche Intelligenz als Ausgangspunkt. Die Technik soll menschliches Verstehen und Verhalten maschinell nachahmen, wozu riesige Datenmengen mit dem Ziel verarbeitet werden, aus den Daten Muster zu erkennen, sie auszuwerten und Schlüsse daraus zu ziehen.
Letztendlich besteht das Ziel der KI darin, besser zu werden als der Mensch. Möglich ist das: Hat eine Maschine genügend Bilder von gutartigen und bösartigen Muttermalen gesehen und sie nach vorgegebenen Kriterien verglichen, arbeitet sie in diesem Feld zuverlässiger als ein Dermatologe. KI kann aber auch neue Muster erkennen und „lernen“. Sie kann „erkennen“, wo die menschlich vorgegebenen Kriterien angepasst werden müssen. Und genau hier liegt eine Gefahr der KI.
Ethische Grenze beginnt, wo die Kontrolle des Menschen endet
Die grundsätzliche ethische Grenze der KI beginnt, wo die Kontrolle des Menschen endet. Wenn technische Systeme ohne menschliche Eingriffsmöglichkeit entwickelt und angewendet werden und möglicherweise gar weitreichende „Entscheidungen“ selbst treffen, beherrscht die Technik den Menschen statt ihm zu dienen.
In den USA spielt KI etwa in der Justiz eine Rolle. Ein Algorithmus prognostiziert die Wahrscheinlichkeit künftiger Straftaten von Menschen. Aber: Wenn er mit Daten trainiert wurde, wonach die Rückfallquote bestimmter Bevölkerungsgruppen höher ist als die anderer, wird diese Gruppe systematisch schlechter beurteilt. Daraus folgt: Nimmt der Mensch die Maschine zur Hilfe, so muss deren Entscheidung transparent und menschlich kontrollierbar bleiben. Dies wirft handfeste Rechtsprobleme auf. Denn wer einen Entscheidungsweg programmiert, müsste dem Richter diesen nachvollziehbar erklären können.
Damit ist das Geschäftsgeheimnis tangiert, das etwa Facebook in die Lage versetzt, Menschen zu beeinflussen oder gar zu steuern. Betrifft das die politische Meinungsbildung, greift der Herrscher über die Maschine also direkt auf die Grundfeste der Demokratie zu.
Transparenz gegenüber dem Verbraucher
Was wir in die Datentrichter der Internetgiganten sprechen und tippen, macht uns bis ins intimste Detail sichtbar, auslesbar und manipulierbar; gesundheitlich, politisch, wirtschaftlich. Nach welcher Logik, zu welchem Zweck und mit welchen Auswirkungen unsere persönlichen Daten ausgewertet werden, muss nicht nur der Richter wissen. Das europäische Datenschutzrecht verpflichtet zur Transparenz direkt gegenüber dem Verbraucher.
Um KI wirtschaftlich einzusetzen, bietet das Recht Möglichkeiten an, etwa die Pseudonymisierung. Dabei werden Identitätsdaten wie bei einem Kfz-Kennzeichen durch eine Zeichenkette ersetzt. Der Rückschluss auf die Person erfolgt nach festen Regeln. Ein ebenfalls im Rahmen des Digitalgipfels vorgestelltes Papier des Innenministeriums legt hierfür Standards fest.
Die Datenethikkommission fordert, rechtliche und ethische Standards in die „DNA“ der Produkte zu implementieren: Der Mensch setzt den ethischen Standard, den die Maschine umsetzt.
Es bedarf einer ernsthaften Debatte
Die Entscheidung für KI hat erhebliche Auswirkungen auf die Gesellschaft. Um das volle Potenzial entfalten zu können, bedarf es einer ernsthaften Debatte, um zu entscheiden, nach welchen Werten das gesellschaftliche Leben gestaltet werden soll. Die Datenethikkommission hält es für unverzichtbar, die Förderung individueller und gesellschaftlicher Kompetenz und Reflexionsstärke in der Informationsgesellschaft zu stärken. Wir brauchen ein breites Angebot an sachlichen Informationen über Anwendungsfelder von KI, die Vermittlung von Digitalkompetenzen in Schulen und in der Erwachsenenbildung.
Insgesamt ist die kritische Reflexionsfähigkeit zu fördern, um Manipulationsmöglichkeiten und gesellschaftliche Folgen jenseits der konkreten Bequemlichkeit, etwa bei der Nutzung von sozialen Medien, berücksichtigen zu können. Investitionen in Technikfolgenabschätzungen sind dafür genauso erforderlich wie ein sorgsames Austarieren von Machtbalancen zwischen Zivilgesellschaft, Politik, Wirtschaft und Wissenschaft.
Nur wenn wir die individuellen, verhaltenssteuernden Wirkungen und die gesellschaftlichen, demokratierelevanten Folgen weit verbreiteter KI-Anwendungen ernst nehmen, behält der Mensch seine Gestaltungshoheit. Das gilt nicht nur für Deutschland. Unverzichtbar ist auch der Blick nach Europa. Ziel muss sein: Künstliche Intelligenz, geprägt von europäischen Werten.