Transparente und opaque KI Künstliche Intelligenz in zwei Varianten

Transparent oder opaque? Wie durchsichtig oder undurchsichtig sollten KI-Lösungen wirklich sein? Auf diese Frage gibt es unterschiedliche Antworten. Denn die Entscheidung hängt ganz von den unterschiedlichen Anwendungsbereichen und Branchen ab.

Anbieter zum Thema

Schindler Parent GmbH

SC-Networks GmbH

Vogel Corporate Solutions GmbH

Pegasystems GmbH

Künstliche Intelligenz (KI) gehört zu den umstrittenen Themen in der IT. Häufig wird dabei übersehen, dass KI längst im Einsatz ist. Die digitale Welt ist voll von Anwendungsfällen, allerdings auf einer pragmatischen Ebene, auf der es nicht darum geht, ob Roboter die besseren Go-Spieler oder gleich die Weltherrschaft übernehmen wollen. Im CRM und im E-Commerce wird KI für die Optimierung der Kommunikation mit Kunden verwendet, bekanntestes Beispiel dürften die selbstlernenden Empfehlungen von Amazon sein. Risiken kann KI auch hier haben. Natürlich geht es hier nicht um die Weltherrschaft, sondern um handfeste Dinge wie Marktchancen, Kosten und Ertrag. Aber auch die Reputation eines Unternehmens kann beschädigt werden; das musste beispielsweise vor einiger Zeit Microsoft erfahren, als der KI-gesteuerte Chatbot Tay einen rassistischen Kurs einschlug.

Hinsichtlich solcher KI-Risiken ist zu berücksichtigen, dass auch auf dieser Ebene KI nicht gleich KI ist. Sie kommt in zwei verschiedenen Geschmacksrichtungen vor: transparent und opaque (undurchsichtig). Und beide haben sehr unterschiedliche Verwendungen und Auswirkungen für Unternehmen und Benutzer.

• Transparente KI umfasst Verfahren, die in jedem Schritt nachvollziehbar bleiben. Man kann jederzeit feststellen, warum und wie das System zu einer bestimmten Lösung gekommen ist.

• Opaque KI bezeichnet hingegen Systeme, deren Ergebnisse für den Anwender nicht eindeutig nachvollziehbar sind. Das System liefert eine Entscheidung aber der Anwender kann nicht mit Bestimmtheit angeben, warum es zu dieser Entscheidung gekommen ist.

Wichtig ist hier, dass transparent und opaque keine Wertungen sind, es geht nicht um „gute“ und „schlechte“ KI, sondern um unterschiedlich technische Verfahren. Die transparente Entscheidungsfindung beruht typischerweise auf hartkodierten Regelwerken vom Typ „Wenn X, dann Y“. Solche Regelwerke werden mit steigender Anzahl von zu berücksichtigenden Bedingungen immer komplexer, trotzdem kann man mit Reverse Engineering zu den Ursprüngen zurückfinden.

Dies ist bei opaquer KI nicht mehr möglich. Hier darf das Regelwerk fast beliebig weiterwachsen, das System „lernt“ und optimiert sich selbst; es formuliert seine Regeln bis zu einem gewissen Grad selbst. Zum Beispiel wird hier versucht, das Verhalten von Menschen vorherzusagen, indem man mit analytischen Modellen Zusammenhänge zwischen dem Verhalten und den Eigenschaften von Menschen prognostiziert. Im Nachhinein lässt sich dann aufgrund der Fülle von Parametern und Nebenbedingungen – die in Echtzeit wechseln können – nicht mehr nachvollziehen, weshalb das System ein bestimmtes Verhalten vorhergesagt hat. Mitunter werden sogar absichtlich zufallsgenerierte Parameter eingestreut.

Grenzen der Undurchsichtigkeit

Transparenz stellt demgegenüber natürlich eine Einschränkung der KI dar, sodass diese Systeme möglicherweise weniger effizient sind. Allerdings ist Transparenz in vielen Anwendungen ein Muss. Das gilt besonders in stark regulierten Branchen wie der Finanzdienstleistung, wo Unternehmen gegenüber Aufsichtsbehörden nachweisen müssen, wie bestimmte Entscheidungen zustande gekommen sind. In der neuen, ab nächstem Jahr geltenden EU-Datenschutz-Grundverordnung (DSGVO) ist das für einige Anwendungsbereiche sogar zwingend vorgeschrieben.

Eine weitere mögliche Schwierigkeit opaquer KI ist das unbeabsichtigte Eindringen von Voreingenommenheit. Auch wenn ein KI-System ganz neutrale Daten für die Analyse von Kundenbeziehungen verwendet, können am Ende nicht-neutrale Entscheidungen stehen. Zum Beispiel könnte opaque KI in einer Bank die Kundendaten so interpretieren, dass Kunden aufgrund von Rasse, Geschlecht oder anderen Merkmalen bessere oder schlechtere Angebote erhalten – nicht nur in Hinblick auf die Reputation des Unternehmens ein katastrophales Ergebnis. Umso wichtiger ist es zu wissen, welche KI man wann und wofür einsetzt. In kritischen Fällen wird man eher die transparente Variante wählen, weil man zwar weniger effizient ist, dafür aber immer weiß, woran man ist. Und diese Entscheidung kann einem KI vorerst auch nicht abnehmen.

* Wir haben im Rahmen des lokalen Customer Engagement Summits mit Tom Libretto, CMO von Pegasystems, zum Thema Künstliche Intelligenz gesprochen. Das Video-Interview finden Sie in Kürze hier auf marconomy.de.

** Sie möchten noch mehr zum Thema Künstliche Intelligenz erfahren? Dann werfen Sie einen Blick in das Webinar „So kann KI den Unternehmenserfolg antreiben“.

Dr. Kay Knoche ist Solution Consultant Next Best Action Marketing bei Pegasystems in München.

(ID:45045328)