Wo sind die ethischen Grenzen der KI?

Ein Putzroboter in einem Pflegeheim – solange er nicht zur Stolperfalle wird, ist das kaum eine Meldung wert. Unterstützung durch KI in der Diagnostik und beim Erstellen des Pflegeplans – auch mit dieser Tatsache dürften sich viele Menschen anfreunden können. Doch Roboter könnten auch in direkten Kontakt zu Patienten*innen und Angehörigen treten und emotionale Interaktionen eingehen.

Dem Roboter fehlt jede Form der Anteilnahme am Wohl der Patient*innen

Ethikerin Alexandra Kaiser-Duliba hat sich in ihrer Doktorarbeit mit dem Einsatz von Robotik und KI in der Pflege beschäftigt. Ihre Haltung: Wo sich zwischenmenschliche Interaktionen abspielen, sollten datenbasierte Systeme und Robotik nicht zum Einsatz kommen. «Large Language Models können schon recht gut Emotionen und sprachliche Eigenheiten imitieren – aber sie imitieren halt nur. Es fehlt jede Form der Anteilnahme am Wohl der Patient*innen. Gerade vulnerable Gruppen wie Demenzerkrankte können oft nicht mehr unterscheiden, ob sie mit einem Menschen oder mit einer Maschine reden.»

Häufig führt die KI zu Verdichtung und Selbstausbeutung

Die ethischen Bedenken beim Einsatz von KI und Robotik sind in der Pflege augenfällig. Im klassischen Büroumfeld muss man hingegen genauer hinschauen. Effizienzgewinne durch KI sind in vielen Arbeitsbereichen unbestritten. Was nach Entlastung aussieht, führt jedoch schnell einmal zu Arbeitsverdichtung. «Mitarbeitende verspüren häufig den Drang, ihre eigene Leistung und Effizienz mithilfe digitaler Tools optimieren zu müssen.  Das kann dazu führen, dass sie sich für den Erfolg des Unternehmens überfordern – bis hin zur Erschöpfung.» Diese Selbstausbeutung sieht die Ethikerin mit dem Gefühl von Autonomie verknüpft. Dabei besteht der Druck, mit der Geschwindigkeit der Systeme mithalten zu müssen und ständig erreichbar zu sein.

Im Erfolgsfall geht die Anerkennung an die Maschine

Gleichzeitig stellt sich bei KI-generierten Inhalten die Frage nach der Urheberschaft. Es entsteht ein sogenanntes «Achievement Gap»: Im Erfolgsfall gebühren die Anerkennung und das Verdienst oft der Maschine beziehungsweise dem System und nicht den Angestellten. «Wenn der arbeitende Mensch von seinem eigenen Produkt entfremdet wird, untergräbt das seine Würde und den Sinn der Arbeit,» so Alexandra Kaiser-Duliba.

Die Wirtschaftlichkeit steht über der Ethik

Dr. Alexandra Kaiser-Duliba beobachtet, dass sich viele Unternehmen nur unzureichend mit der ethischen Seite der KI beschäftigen. Die Wirtschaftlichkeit und die technische Machbarkeit stehen über der Ethik.  «Kosteneffizienz wird häufig als oberstes Paradigma gesehen. Angestellte sollen hingegen durch sogenannte KI in der Wertschöpfungskette ersetzt werden. Die ökonomische Realität verdrängt also die ethische Rationalität.» Die Folgen dieses Wirtschaftssystems könnten zu zahlreichen Entlassungen führen. Kosten und Risiken werden somit auf das Individuum übertragen.

Die Ethikerin appelliert an die Unternehmen, ihre Arbeitnehmenden frühzeitig und aktiv in die KI-Pläne einzubeziehen. Eine Schlüsselrolle spielen die Arbeitnehmervertretungen. Diese sollen die digitale Transformation frühzeitig mitgestalten, damit die Digitalisierung nicht auf Kosten der Beschäftigten geht.  «Die Entwicklung und Implementierung von datenbasierten Systemen, sogenannter KI, in einem Betrieb darf kein reiner Top-down-Prozess des Managements sein. Systeme sollten gemeinsam so gestaltet und getestet werden, dass sie ethische und gesellschaftliche Werte aktiv fördern, anstatt sie zu schädigen.»

KI gezielt einsetzen und neue Freiräume schaffen

Trotz ihrer kritischen Haltung zeichnet Alexandra Kaiser-Duliba im Gegensatz zu gewissen KI-Forschern keine Weltuntergangsszenarien. Steht die menschliche Würde an erster Stelle, dann sieht sie in der KI ein nützliches Werkzeug für die Menschen. «Wird sogenannte KI gezielt eingesetzt, kann sie Beschäftigte von monotonen Aufgaben entlasten. Dadurch entstehen neue Freiräume. Damit diese allen zugutekommen, braucht es eine gute Planung und die Einbindung der Betroffenen.»

Alexandra Kaiser-Duliba wünscht sich ethische Leitplanken, die die Autonomie der Belegschaft sichern, mehr Vertrauen in die KI schaffen und zugleich die gesellschaftliche Akzeptanz von Unternehmen stärken. So kann die Digitalisierung wirtschaftlichen Nutzen bringen und gleichzeitig die Bedürfnisse und die Würde der Beschäftigten in den Mittelpunkt stellen.