Künstliche Intelligenz und Ethik

Biased Algorithms – Wenn KI gefährlich wird

Seite: 2/2

Kann KI Wahlen beeinflussen und Kriege auslösen?

Die Verselbstständigung von Technologien haben Science-Fiction-Autoren schon Mitte des vergangenen Jahrhunderts thematisiert. Eine solche Entwicklung hat eine besondere Tragweite, wenn Fehler entstehen. So hat Rekognition, die Gesichtserkennung von Amazon, jüngst 28 Abgeordnete des US-Kongresses mit Häftlingen verwechselt.

Dinko Eror ist Senior Vice President and Managing Director bei Dell EMC Deutschland.
Dinko Eror ist Senior Vice President and Managing Director bei Dell EMC Deutschland.
(Bild: IT-Business)

Überträgt man diese Fehlerquote von fünf Prozent auf die Ambitionen des US-Verteidigungsministeriums, werden ethische Zweifel schnell greifbar: Das Pentagon will unter anderem Drohnen und andere Waffen mit KI versehen, damit sie Ziele selbst identifizieren und „Entscheidungen selbst treffen“ können. Viele KI-Forscher betrachten solche Entwicklungen mit besonderer Skepsis – wenn nicht mit Abscheu; Tausende von ihnen haben deshalb eine freiwillige Selbstverpflichtung unterschrieben, nicht an autonomen Waffensystemen (LAWS) zu forschen. Aber wie stehen die übrigen Tausende zu solchen Einsätzen?

Gefahr kommt auch aus einem ganz anderen Bereich: Mit KI, künstlichen neuronalen Netzen und erschreckend wenig Aufwand können mittlerweile mit sogar kostenlosen Apps täuschend echte Fake-Bilder und -Videos hergestellt werden. „Nicht auszudenken, was passiert, wenn durch ein Fake-Video eines Fake-Politikers ein Krieg entsteht“, gibt IT-Manager Eror zu bedenken.

Auch die Profilerstellung von beliebigen Internet- und Social-Media-Nutzern stellt für KI längst keine Hürde mehr dar. Die Technologie kann, in Verbindung mit der heutigen Rechenleistung, gigantische Datenmengen analysieren und etwa Muster erkennen. Unvergessen ist zum Beispiel die unerlaubte Auswertung der Daten zahlreicher Facebook- und Twitter-Profile durch Cambridge Analytica mit dem Ziel, die US-Wahlen 2016 zu beeinflussen – für viele der erste wirkliche Social-Media-Skandal.

Der Gesetzgeber ist gefordert

Es gibt zahlreiche weitere Beispiele, die ethische Fragen aufwerfen – zumal sich die Künstliche Intelligenz weiterentwickelt und jeden Tag schneller, leistungsfähiger und treffsicherer wird. Sogar IT-Unternehmen, die Vorreiter in Sachen KI, kommen deshalb mittlerweile ins Grübeln. Microsoft zum Beispiel betrachtet KI-basierte Gesichtserkennung als Bedrohung der fundamentalen Menschenrechte wie Privatsphäre und Meinungsfreiheit, so zumindest President Brad Smith in seinem Blog vor einigen Wochen.

Ist die Selbstverpflichtung von Industrie und Forschung also der richtige Weg, um ethische Innovationen sicherzustellen? „Nein. Die Wirtschaftsgeschichte hat gezeigt: Die Selbstverpflichtung von Industrie und Forschung führt nicht zu ethischen Innovationen“, erklärt Dinko Eror. „Sei es beim Dieselskandal, dem Rauchverbot, der Frauenquote oder der Nahrungsmitteltransparenz. Mögliche Absatzvorteile haben Unternehmen immer höher bewertet als ethisches Handeln. Ich bin mir sehr sicher, dass das auch in Zukunft so bleiben wird.“

Eine gesetzliche Regulierung hält Eror deshalb unabdingbar. „Die angekündigte Strategie der Bundesregierung zur Künstlichen Intelligenz kommt zwar sehr spät, berücksichtigt aber Datenschutz und Informationssicherheit und betont an vielen Stellen die Notwendigkeit von ethischen Standards“, erklärt Eror, „das ist sehr zu begrüßen“. Auch die EU hat kürzlich ein KI-Maßnahmenpapier angekündigt, in dem ethische Rahmenbedingungen im Vordergrund stehen.

Unternehmensethik muss auf die Agenda

Die Frage bleibt, ob auch andere Regierungen ein Interesse daran haben, sich in diesem Sinne selbst einzuschränken. Die USA haben zwar bereits 2016 einen strategischen Forschungs- und Entwicklungsplan für Künstliche Intelligenz vorgestellt und betonen dort sehr nachdrücklich das Thema „ethische KI“. Für Eror bleibt dabei aber offen, wie sie etwa ihre angekündigten aggressiven Verteidigungspläne darauf abstimmen wollen. Und China, ein Land, das nicht besonders zimperlich mit der Privatsphäre umgehe, wie der Trend zur Video-Totalüberwachung und Gesichtserkennung beweise, werde ethische Aspekte eher weniger in den Vordergrund stellen.

Angesichts der Tatsache, dass der Ruf nach einer neuen Wirtschaftsordnung immer lauter werde, die Turbokapitalismus und Wachstum um jeden Preis zugunsten von mehr Gerechtigkeit und Umweltschutz ablösen soll, ist es für Eror an der Zeit, „angesichts des rapiden Fortschritts der Technik und des potenziellen Missbrauchs der KI auch die Unternehmensethik ganz oben auf die Agenda zu setzen.“

(ID:45480694)