Sechs Leitprinzipien Wie funktioniert erfolgreiche Zusammenarbeit zwischen Mensch und KI?

Anbieter zum Thema

FIS Informationssysteme und Consulting GmbH

Die Zusammenarbeit zwischen Mensch und Maschine ist beileibe kein neues Thema. Doch mit der rasanten Entwicklung von Künstlicher Intelligenz gewinnt es enorm an Brisanz. KI ermöglicht enorme Produktionsgewinne, gleichzeitig wächst aber auch die Komplexität der Systeme: Sie werden immer leistungsstärker, ihre Entscheidungen immer intransparenter und ihre Auswirkungen immer weitreichender.

Dadurch entsteht ein Spannungsfeld zwischen Effizienz auf der einen und Sicherheit auf der anderen Seite. Wie müssen wir die Arbeit zwischen KI und Mensch aufteilen, um dieses Spannungsfeld aufzulösen? Pegasystems schlägt sechs Leitprinzipien vor:

1. KI entscheidet schnell, der Mensch verantwortungsvoll.

KI kann in kürzester Zeit große Datenmengen verarbeiten und daraus Entscheidungen ableiten. Aber verantwortungsvolle Entscheidungen erfordern mehr als Daten und Wahrscheinlichkeiten: Sie basieren auf Faktoren wie komplexen Wertsystemen, implizitem Wissen und Erfahrung, die sich nur schwer vollständig formalisieren lassen. Deshalb kann KI zwar Entscheidungen vorbereiten, die Verantwortung dafür muss beim Menschen verbleiben.

2. Menschliche Kontrolle ist ein Sicherheitsnetz.

Die menschliche Verantwortung für die Entscheidungen macht menschliche Kontrolle unverzichtbar. Der „Human in the Loop“ ist kein optionales Feature, sondern eine grundlegende Voraussetzung für den sicheren Einsatz von KI. Diese Kontrolle sollte nicht nur am Ende eines Prozesses stattfinden, sondern entlang des gesamten Lebenszyklus: vom Design über das Training bis zum operativen Einsatz von KI.

3. Agentenbasierte KI braucht klare Regeln.

Mit der zunehmenden Verbreitung agentenbasierter KI wächst die Versuchung, Systeme möglichst autonom agieren zu lassen. KI-Agenten benötigen aber von Menschen definierte Mandate, feste Regeln und eine Einbettung in kontrollierte Abläufe. Völlig autonome Agenten verlieren mit wachsendem Kontext an Stabilität und Vorhersehbarkeit und bieten dadurch keine verlässliche Grundlage für den Einsatz in Unternehmen.

4. AI Literacy wird zur Kernkompetenz für alle.

Mit der wachsenden Verbreitung von KI wird ein Verständnis ihrer Funktionsweise, Stärken und Grenzen zur Schlüsselkompetenz. Jede Rolle benötigt dabei ein für ihren jeweiligen Aufgabenbereich angemessenes Verständnis. Anwender müssen einschätzen können, wann Ergebnisse plausibel und vertrauenswürdig sind, Fachbereiche müssen ihre Anforderungen so formulieren können, dass sie sich sinnvoll umsetzen lassen, und Entwickler wiederum benötigen ein tiefes Verständnis für die technischen Zusammenhänge und die Qualität der Ergebnisse.

5. Technische und soziale Kompetenzen sind entscheidend.

Der Einsatz von KI ist keine rein technische Herausforderung. Es handelt sich um ein sozio-technisches System, in dem Technologie und menschliche Faktoren eng miteinander verzahnt sind. Technische Exzellenz reicht nicht aus, wenn sie nicht durch Kommunikation, Verständnis und Zusammenarbeit ergänzt wird. Die Einführung von KI ist daher immer auch ein Change-Projekt, das nicht nur Systeme, sondern Organisationen, Arbeitsweisen und Denkmodelle betrifft.

6. Zusammenarbeit im Team ist erfolgskritisch.

Mit ihrer fortschreitenden Entwicklung wird KI von einem Werkzeug zunehmend zu einem aktiven Bestandteil von Teams. Sie übernimmt Aufgaben, liefert Impulse und beeinflusst Entscheidungen. Damit verändert sich die Art der Team-internen Zusammenarbeit. Es braucht eine klare Rollenverteilung und ein gemeinsames Verständnis dafür, wer welche Aufgaben übernimmt. Mensch und Maschine arbeiten nicht nebeneinander her, sondern zusammen und überlappen sich dabei.

*Pegasystems bietet die führende KI-gestützte Plattform für die Transformation von Unternehmen.

(ID:50854848)