• Die Datenethikkommission fordert Transparenz und Erklärungspflichten. Ein Gastbeitrag.

Deutschland und Europa sind auf technischen Fortschritt angewiesen. Vor allem künstlicher Intelligenz (KI) gehört die Zukunft in der Digitalisierung. Maschinen sollen uns im Beruf entlasten, Ressourcen schonend verteilen, der Gesundheit dienen und die Lebensqualität erhöhen.

Unter dem Siegel „KI made in Europa“ soll Digitaltechnik weltweit für Weiterentwicklung und Wohlstand sorgen. KI nutzt unsere persönlichen Daten, und sie muss bei aller Fortschrittsliebe dem Wohl des Menschen dienen. Sie hat sich den ethischen Standards unterzuordnen, die von der Würde des Menschen als unserem höchsten Gut vorgegeben werden.

Aber wo verlaufen die Grenzen des technisch Zulässigen in ethischer und rechtlicher Hinsicht in der Praxis, zumal Technik ja auch Leben retten kann? Das hat die Bundesregierung die Datenethikkommission gefragt, die ein Jahr lang gearbeitet hat. Gestern hat sie ihr Gutachten übergeben. Der Kreis bestand aus 16 Sachverständigen insbesondere mit technischer, ethischer und juristischer Expertise.

Darunter waren auch institutionelle Vertreter von BDI, BfDI und VZBV. Das Gremium hat seine Empfehlungen im Gutachten im Konsens verabschiedet. Fußend auf Leitgedanken beginnend mit einer menschenzentrierten und werteorientierten Technikgestaltung, gibt die DEK grundsätzliche Empfehlungen und macht konkrete Vorschläge.

Ein Kern des Gutachtens sind Empfehlungen für die Regulierung sozialer Netzwerke und Suchmaschinen. Die DEK sieht perspektivisch ein hohes Gefährdungspotential für die demokratische Willensbildung durch die Torwächter über die Information im Netz.

„Torwächter-Dienste“

Wenn Facebook, Google und Co. die Daten, die durch ihre Schleusen und Filter ins Netz gelangen, zur Steuerung unseres Kaufverhaltens nutzen können, dann können sie so auch politische Meinungen steuern. So wie sich interessengenau und intransparent Konsumgüter anbieten lassen, so lassen sich unbemerkt auch politische Meinungen unterjubeln.

Ob das geschieht, weiß man nicht, aber die Gefahr ist nicht von der Hand zu weisen. Die DEK schlägt deshalb vor, „Torwächter-Dienste“, wie Facebook und Google dazu zu verpflichten, zusätzlich zu ihrem intransparenten und nach eigenen Regeln gesteuerten Angebot, für meinungsrelevante Inhalte ein plurales Angebot vorzuhalten, auf das sie als Dienste keinen Einfluss nehmen dürfen.

Wichtig ist der DEK aber, mit Blick auf das Risiko der eingesetzten Technik zu differenzieren. Für einen Getränkeautomaten, der Algorithmen benutzt, müssen andere Regeln gelten, als für ein Atomkraftwerk oder Facebook. Die Regulierung soll risikobezogen erfolgen. Um die potenzielle Gefahr eines Angebotes im Kontext interessengerecht zu regeln, schlägt die DEK eine Kritikalitätspyramide vor, die ein fünfstufiges System von nicht regulierungsbedürftig bis zu verboten, da Risiko unvertretbar, vorgibt.

Risikoabschätzungen und präventive Zulassungspflichten

Weil KI keine Geheimwissenschaft sein darf, fordert die Kommission Transparenz und Erklärungspflichten beim Einsatz algorithmischer Systeme für deren Verwender. Sie verlangt Risikoabschätzungen und erwägt präventive Zulassungspflichten für gefährliche algorithmische Systeme. Und sie sieht Unternehmen in der Pflicht, bei der Regulierung mitzuwirken.

Zudem legt sie der Bundesregierung nahe, in der EU auf die Verabschiedung einer Verordnung für Algorithmische Systeme hinzuwirken. Vor dem Hintergrund, dass der Zugang zu Onlineangeboten über Log-ins per Facebook, Google usw. erfolgt, werden deren Pools mit gigantischen Datenmengen gefüllt. Um dieser Machtkonzentration entgegenzuwirken, regt die DEK die Fortentwicklung von europäischen Log-in-Systemen mit dezentraler Datenhaltung an.

Hier werden die Daten von einem Treuhänder verwaltet und dann datenschutzfreundlich nach Kundenwunsch an Firmen weitergegeben, die mit dem Kunden ins Geschäft kommen sollen. NetID und verimi sind Beispiele für diese Dienste.

Die DEK gibt zudem Empfehlungen für konkrete Probleme der Digitalisierung. Sie schlägt Lösungen für den sogenannten digitalen Nachlass vor und befasst sich mit bislang ungeschützten Daten Verstorbener im Netz, um sie vor ungezügelter Auswertung zu schützen. Sie sieht nicht nur Grenzen, sondern auch ethische Pflichten zum Einsatz von KI im Sinne des Gemeinwohls, etwa im Gesundheitswesen.

Sie fordert eine ethikgerechte Gestaltung digitaler Angebote und sieht eine Einordnung von Daten als Vermögensgüter kritisch. Schließlich befasst sie sich mit der Frage des Einsatzes von KI durch den Staat. Während Unterstützung durch Algorithmen in der Verwaltung möglich sein soll, darf es nicht dazu kommen, dass Maschinen als Richter fungieren. Auch dann nicht, wenn sie dem menschlichen Juristen einmal juristisch überlegen wären.