Warum Ethik zur größten Herausforderung der KI wird

Zu den Teams, die KI entwerfen, sollten Linguistik- und Philosophieexperten, Eltern, junge Menschen und alltägliche Menschen mit unterschiedlichen Lebenserfahrungen und unterschiedlichen sozioökonomischen Hintergründen gehören.

Viele Organisationen verzögern oder ziehen den Einsatz generativer KI aufgrund von Bedenken hinsichtlich ihrer Ethik und Sicherheit entweder hinaus. Dies führt zu Forderungen, KI aus den Technologieabteilungen zu verlagern und mehr nicht-technische Geschäftsinteressenten in die KI-Gestaltung und -Verwaltung einzubeziehen.

Laut einer aktuellen Umfrage des IBM Institute for Business Value verschieben mehr als die Hälfte (56 %) der Unternehmen große Investitionen in generative KI, bis Klarheit über KI-Standards und -Vorschriften besteht. Mindestens 72 % geben an, aus ethischen Gründen bereit zu sein, auf die Vorteile der generativen KI zu verzichten.

Anspruchsvoller als Technologiethemen

Viele der technischen Probleme im Zusammenhang mit künstlicher Intelligenz wurden gelöst, aber die harte Arbeit rund um die KI-Ethik rückt jetzt in den Vordergrund. Dies erweist sich als noch schwieriger als die Lösung technologischer Probleme.

Die Herausforderung für Entwicklungsteams in dieser Phase besteht darin, „zu erkennen, dass die Schaffung ethischer KI kein rein technisches, sondern ein soziotechnisches Problem ist“, sagte Phaedra Boinodiris, weltweiter Leiter für vertrauenswürdige KI bei IBM Consulting, kürzlich in einem Podcast. Dies bedeutet, dass die KI-Überwachung über die IT- und Datenverwaltungsteams hinaus in allen Organisationen ausgeweitet wird.

Um verantwortungsvoll kuratierte KI-Modelle zu erstellen, „braucht man ein Team, das aus mehr als nur Datenwissenschaftlern besteht“, sagte Boinodiris. „Seit Jahrzehnten kommunizieren wir, dass diejenigen, die nicht über traditionelles Fachwissen verfügen, nicht in den Raum gehören. Das ist ein großer Fehltritt.“

Diese Fragen sollten sich KI-Teams stellen

Es sei auch bemerkenswert, dass gut kuratierte KI-Modelle „auch genauere Modelle sind“, fügte sie hinzu. Um dies zu erreichen, „sollte das Team, das das Modell entwirft, multidisziplinär und nicht isoliert sein.“ Das ideale KI-Team sollte „Linguistik- und Philosophieexperten, Eltern, junge Menschen und alltägliche Menschen mit unterschiedlichen Lebenserfahrungen und unterschiedlichen sozioökonomischen Hintergründen“ umfassen, forderte sie. „Je größer die Vielfalt, desto besser.“ Die Teammitglieder müssen sich zu den folgenden Arten von Fragen äußern:

• „Löst diese KI das Problem, das wir brauchen?“
• „Sind das laut Domain-Experten überhaupt die richtigen Daten?“
• „Was sind die unbeabsichtigten Auswirkungen von KI?“
• „Wie können wir diese Auswirkungen abmildern?“

Strategisch sehr wichtig

Unternehmensführer mögen hinsichtlich der ethischen Auswirkungen von KI immer vorsichtiger werden, sehen aber auch eine starke Akzeptanz von Ethik als Quelle der Wettbewerbsstärke. 75 Prozent der Führungskräfte betrachten die KI-Ethik als eine wichtige Quelle der Wettbewerbsdifferenzierung, und eine Mehrheit – 54 Prozent – geht davon aus, dass die KI-Ethik „strategisch sehr wichtig“ ist. Dies ist ein wichtiges Signal an die Interessengruppen: Mehr als 85 % der befragten Verbraucher, Bürger und Mitarbeiter legen Wert auf KI-Ethik.

Ein ganzheitliches KI-Ethik-Framework identifiziert drei Arten von ROI, die sich aus KI-Ethik-Investitionen ergeben können, heißt es im IBM-Bericht:

• Wirtschaftliche Auswirkungen (greifbarer ROI): Die greifbaren oder direkten finanziellen Vorteile der KI-Ethik umfassen messbare Faktoren wie Kosteneinsparungen, höhere Einnahmen oder geringere Kapitalkosten. Beispielsweise könnte eine Organisation behördliche Bußgelder vermeiden durch Investitionen in KI-Risikomanagement.“
• Auswirkungen auf die Fähigkeiten (langfristiger ROI): Dies weist auf die langfristigen Vorteile einer KI-Ethikbemühung hin. Beispiele könnten sein: „Technische Infrastruktur oder spezifische Plattformen für Ethik können es Unternehmen ermöglichen, sich auf eine Weise zu modernisieren, die zu weiteren Kosteneinsparungen und Innovationen führt.“
• Reputationsauswirkungen (immaterieller ROI): Die immateriellen oder schwer zu quantifizierenden Vorteile, die sich aus einer starken KI-Ethikbemühung ergeben, umfassen Faktoren wie Marke und Kultur, die sich positiv auf „den Ruf einer Organisation bei Aktionären, Regierungen, Mitarbeiter und Kunden.“ Dazu können „verbesserte Umwelt-, Sozial- und Governance-Bewertungen, eine höhere Mitarbeiterbindung und eine positive Berichterstattung in den Medien“ gehören.

Viele Führungskräfte und Manager sind sich der drei potenziellen Wirkungsbereiche, die KI-Ethikbemühungen bieten können, nicht vollständig bewusst, was einen kontinuierlichen Schulungsprozess erfordert. Boinodiris empfiehlt, „Ihre versiertesten KI-Ethikexperten zu engagieren, um die C-Suite über die Unterschiede zwischen Verlustaversion und Wertschöpfungsansätzen in der KI-Ethik aufzuklären. Helfen Sie Führungskräften, sich das Potenzial der Nutzung von KI-Ethiktechnologie, -Plattformen und -Infrastruktur für eine breitere Nutzung vorzustellen.“