Navigation auf uzh.ch
Navigation auf uzh.ch
Hintergrund
Künstliche Intelligenz (KI) hat Eingang in verschiedenste Bereiche des täglichen Lebens gefunden. Während KI moderne Arbeitsabläufe effizienter gestaltet, birgt die neue Technologie auch Risiken für die Demokratie und den Rechtsstaat. Um potentielle Risiken von KI zu begrenzen, ohne gleichzeitig die Investitionsbereitschaft in diesem Bereich abzuschwächen, hat die Europäische Union (EU) im April 2018 eine KI-Strategie ausgearbeitet. Als Bestandteil dieser Strategie wurde eine Expertengruppe, bestehend aus Vertretern aus der Industrie, Wissenschaft und Zivilgesellschaft, mit der Ausarbeitung von Ethik-Leitlinien für eine vertrauenswürdige KI beauftragt, die im April dieses Jahres veröffentlicht wurden.
Es ist die erklärte Absicht der Ethik-Leitlinien, die Entwicklung vertrauenswürdiger KI zu fördern. Nach Auffassung der Expertengruppe ist KI «vertrauenswürdig», wenn sie (1) rechtmässig handelt, d.h. nicht gegen geltende Gesetze verstösst, (2) ethische Grundwerte achtet und (3) eine gewisse Robustheit aufweist, damit keine unbeabsichtigten Schäden auftreten. Die Ethik-Leitlinien sind in drei Abschnitte gegliedert: In einem ersten Teil werden anhand eines grundrechtsbasierten Ansatzes ethische Grundsätze hergeleitet. Diese bestehen namentlich aus der Achtung der menschlichen Autonomie, von Fairness und dem Prinzip der Erklärbarkeit, d.h., Entscheidungen von KI müssen für Menschen nachvollziehbar bleiben. In einem zweiten Teil formulieren die Richtlinien sieben Anforderungen, die notwendig sind, um vertrauenswürdige KI zu realisieren. Darunter finden sich beispielsweise der Vorrang menschlichen Handelns, technische Robustheit und Sicherheit sowie die Rechenschaftspflicht. Abschliessend enthalten die Leitlinien eine Bewertungsliste, die den Prozess der operativen Umsetzung begleiten soll.
Den Prinzipien und Grundsätzen der Ethik-Leitlinien kommt kein verbindlicher Charakter zu. Sie dienen vielmehr als Hilfestellung für Unternehmen, die sich selbst verpflichten wollen, zur Entwicklung von vertrauenswürdiger KI beizutragen. Ferner läuft zurzeit eine Pilotphase, in der sich Interessengruppen zu den Ethik-Leitlinien äussern können. Voraussichtlich Anfang 2020 wird die Expertengruppe die vorgeschlagenen Grundsätze anhand der eingegangenen Rückmeldungen evaluieren. Aufbauend darauf könnte die EU-Kommission weitere Massnahmen vorschlagen.
Fazit
Obwohl die Ethik-Leitlinien der Expertengruppe eine gute erste Grundlage für die weitere Diskussion von Nutzen und Risiken der KI darstellen, gibt es auch einige Kritikpunkte. So könnte man sich fragen, ob die vagen Empfehlungen tatsächlich einen Mehrwert für die Entwicklung von vertrauenswürdiger KI bieten. Um den Innovationsprozess nachhaltig zu beeinflussen, wären konkrete Regeln nötig, welche den zulässigen Rahmen des Einsatzes von KI abstecken. Zu denken wäre etwa an ein Verbot der Forschung an autonomen Waffensystemen oder des sog. Citizen Scoring durch den Staat. Auch könnte bspw. die Einführung eigenständiger Haftungsregeln die richtigen Anreize in der Entwicklung vertrauenswürdiger KI setzen. Die Abwesenheit entsprechender Vorschläge könnte auf die Zusammensetzung der Expertengruppe zurückzuführen sein, die zu einem grossen Teil aus Industrievertretern bestand. Obwohl es gerade mit Blick auf die Akzeptanz der Ethik-Leitlinien wichtig ist, die direkten Betroffenen einzubinden, bräuchte es für den Vorschlag konkreter Regeln eine Mehrheit unabhängiger Vertreter in einem solchen Gremium.
Es bestehen allerdings auch konzeptionelle Schwierigkeiten: Der den Ethik-Leitlinien zugrundeliegende Leitgedanke, gemäss welchem eine Technologie wie KI sich ethisch verhalten und damit vertrauenswürdig sein kann, erscheint problematisch, sind Konzepte wie «Vertrauen» und «Ethik» doch stark mit dem Menschsein verbunden. Nach Auffassung von Thomas Metzinger, Philosoph und Mitglied der Expertengruppe, können nur die Personen, welche die KI herstellen und anwenden, d.h. sie letztlich kontrollieren, vertrauenswürdig sein oder nicht. Sachgerechter wäre es deshalb, die genannten Personen und nicht die Technologie ins Recht zu fassen, indem ihnen bestimmte Pflichten im Umgang mit KI auferlegt werden.
Welche Schlüsse die EU-Kommission aus den Reaktionen der Industrie und Gesellschaft zu den Ethik-Leitlinien zieht, bleibt gespannt abzuwarten. Klar ist jedoch, dass die Leitlinien eine wichtige Debatte angestossen haben, welche den künftigen Umgang mit KI innerhalb der EU (und darüber hinaus) massgeblich prägen könnte.
Anna Züst
Der Beitrag gibt ausschliesslich die persönliche Meinung der Verfasserin wieder.
