Achten Sie auf die Vertrauenslücke: Datenschutzbedenken führen bei Kunden zu Vorsicht gegenüber generativer KI
Ein allgemeiner Mangel an Vertrauen in die Datensicherheit und Datenschutz hindert Unternehmen daran, voll und ganz auf generative Künstliche Intelligenz zu setzen.
Generative Künstliche Intelligenz (KI) wird als unerlässlich dafür angesehen, dass Unternehmen ihre Marktrelevanz bewahren können. Dennoch zögern einige, den Schritt zu wagen - aus Bedenken hinsichtlich Daten und Vertrauen.
Diese Probleme sind besonders relevant für Unternehmen, die in Branchen mit strengen Regeln zur Datenverwaltung und mit einer großen Kundenbasis tätig sind. Sie zwingen diese Unternehmen dazu, mit der Einführung generativer KI-Tools zu warten - trotz der angepriesenen Vorteile.
Laut Sarwar Faruque, Leiter der Entwicklungsabteilung bei Jollibee Foods Corporation, bietet die Möglichkeit, beispielsweise per Befehl Verkaufsberichte zu generieren - anstatt manuell mit Tabellenkalkulationen herumzufummeln - ein interessantes Potenzial für generative KI-Tools wie Einstein Copilot von Salesforce. Der philippinische Betreiber von Restaurantketten nutzt Heroku von Salesforce zum Entwickeln seiner Anwendungen sowie MuleSoft als Middleware, um seine Anwendungen - darunter ERP- und Bestellmanagement-Systeme - zu verknüpfen.
Jollibee beschäftigt 15.000 Mitarbeiter und betreibt weltweit fast 4.000 Filialen in 34 Ländern. Die Anwendungen des Unternehmens laufen hauptsächlich in der Cloud; daher unterhält Jollibee keine eigenen Rechenzentren - mit Ausnahme eines kleinen Intranets.
Faruque sieht außerdem Potenzial darin, KI in der Fertigung einzusetzen, wo sie die Effizienz der Produktions- und Montageprozesse steigern kann. So kann die KI beispielsweise dabei helfen, die Lebensmittelqualität zu überwachen und die Nachfrage vorherzusagen.
Sein Interesse an den potenziellen Anwendungsmöglichkeiten von KI beschränkt sich jedoch auf Backend-Operationen. Faruque besteht darauf, generative KI vorerst - zumindest - von Kundeninteraktionen und kundenorientierten Prozessen fernzuhalten.
Die Technologie befinde sich noch in den Anfängen; es gebe noch viel zu verstehen und zu klären, merkte er an.
„Wir sehen die Ausgabe [und die Antworten], die es erzeugt, aber wir verstehen eigentlich nicht, wie [es zu der Antwort gekommen ist]“, sagte er. „Es gibt diese ‚Black Box‘ - sie muss entschlüsselt werden. Ich möchte wissen, wie es funktioniert, wie es zu seiner Antwort gelangt ist und ob diese Antwort jedes Mal [wenn die Frage gestellt wird] gleich bleibt.“
Derzeit sei das nicht der Fall, sagte er und fügte hinzu, dass auch das Risiko von Halluzinationen ein Problem darstelle. In Ermangelung eines Sicherheitsvorfalls wisse man kaum, ob es irgendwelche grundlegenden Cybersicherheitsprobleme gibt, die gelöst werden müssten, stellte er fest.
„Im Moment gibt es einfach viel Marketing-[Hype]“, sagte Faruque und fügte hinzu, dass es nicht ausreiche, lediglich über „Vertrauen“ zu sprechen, ohne konkrete Details dazu zu nennen, was das eigentlich bedeutet.
Er drängte die Anbieter von KI-Systemen dazu, zu erklären, wie ihre großen Sprachmodelle entstehen, welche Daten sie verarbeiten und was genau sie tun, um Antworten zu generieren. „Sie müssen aufhören, so zu tun, als wäre das alles Magie - schließlich läuft da Code ab und dahinter steht Wissenschaft“, sagte er. „Hilft uns dabei, es zu verstehen - denn wir mögen es nicht, eine Technologie einzusetzen, deren Funktionsweise wir nicht richtig verstehen.“
Er betonte die Notwendigkeit von Rechenschaftspflicht und Transparenz sowie die Gewährleistung, dass Kundendaten, die zur Trainierung von KI-Modellen verwendet werden, nicht öffentlich gemacht werden. Dies ist besonders wichtig für Organisationen, die den Datenschutzvorschriften in ihrer jeweiligen Rechtsordnung nachkommen müssen.
Solange diese Probleme nicht gelöst sind, sagte er, sei er nicht bereit, die Daten seiner eigenen Kunden zu gefährden.
Vertrauen ist ebenfalls etwas, was das Singapurische Ministerium für Handel und Industrie (MTI) ernst nimmt - insbesondere im Hinblick auf Datenschutz und -sicherheit. Dem Ministerium unterstehen zehn Regierungsbehörden, darunter die EDB sowie das Singapore Tourism Board.
Insbesondere müssen die Daten des Ministeriums in Singapur gespeichert werden - und das stellt nach Angaben von Sharon Ng, der CIO der Ministeriumsgruppe im MTI, ein großes Hindernis bei der Gewährleistung der Datensicherheit und -verwaltung dar. Das bedeutet, dass alle von dem Ministerium genutzten KI- und großen Sprachmodelle in seiner eigenen Umgebung gehostet werden müssen - auch solche, die von US-Anbietern wie der Einstein Copilot-Plattform von Salesforce bereitgestellt werden.
Ebenso wie Faruque betonte auch Ng die Notwendigkeit von Transparenz - insbesondere hinsichtlich der Funktionsweise der Sicherheitsschicht, also welche Art von Verschlüsselung verwendet wird und ob Daten gespeichert werden, so ihre Ausführungen.
Ihr Team untersucht derzeit, wie generative KI-Tools - einschließlich der von Salesforce - dem Ministerium zugutekommen können. Das Ministerium steht einer Nutzung verschiedener auf dem Markt verfügbarer KI- und großer Sprachmodelle offen gegenüber. Dies wäre laut ihr weniger kostspielig als der Eigenbau solcher Modelle und würde außerdem die Markteinführungszeit verkürzen.
Die Nutzung jeglicher KI-Modelle unterliege jedoch weiterhin Überlegungen bezüglich Vertrauen und Sicherheit, betonte sie. Derzeit führt das MTI Pilotprojekte mit generativer KI durch, deren Ziel es ist, die operative Effizienz zu steigern und die Arbeitsaufgaben in seinen Behörden zu erleichtern.
Für den singapurischen Telekommunikationsanbieter M1 ist die Verbesserung des Kundenservices der wichtigste KPI für den Einsatz von generativer KI. Doch genau wie bei MTI und Jollibee sind auch bei M1 die Datenschutzkonformität sowie das Vertrauen der Kunden entscheidend, so Jan Morgenthal, Chief Digital Officer von M1. Derzeit führt der Anbieter Proof-of-Concepts durch, um zu prüfen, wie generative KI die Interaktionen seines Chatbots mit Kunden verbessern kann sowie ob sie zusätzliche Sprachen - außer Englisch - unterstützen kann.
Das bedeutet, mit Anbietern zusammenzuarbeiten, um die Parameter zu ermitteln und herauszufinden, wo große Sprach- und KI-Modelle eingesetzt werden, so Morgenthal. Ähnlich wie MTI und Jollibee muss auch M1 sich an Vorschriften halten, die vorschreiben, dass ein Teil seiner Daten - einschließlich der auf Cloud-Plattformen gespeicherten Daten - im lokalen Markt verbleiben müssen.
Dies erfordert laut ihm, dass das Training der KI-Modelle in der Netzwerkumgebung von M1 durchgeführt wird.
Laut seinen Angaben muss der singapurische Telekommunikationsanbieter außerdem darauf achten, welche Daten zur Trainierung der Modelle sowie welche generierten Antworten verwendet werden - diese müssten getestet und validiert werden. Sie müssten nicht nur anhand der vom Anbieter festgelegten Richtlinien, wie beispielsweise der Trust Layer von Salesforce, überprüft werden, sondern auch anhand der Sicherheitsvorgaben, die das Mutterunternehmen von M1, Keppel, vorgegeben hat.
Die Bekämpfung der Vertrauenslücke bei generativer KI
Solche Bemühungen werden angesichts schwindenden Vertrauens in den Einsatz von KI von entscheidender Bedeutung sein.
Laut einer im vergangenen Monat veröffentlichten Salesforce-Umfrage sind sowohl Unternehmen als auch Verbraucher heute weniger offen für den Einsatz von KI als früher. Etwa 73 Prozent der Geschäftskunden und 51 Prozent der Verbraucher zeigen Bereitschaft dafür, dass die Technologie eingesetzt wird, um ihre Erfahrungen zu verbessern - das ist ein Rückgang gegenüber 82 Prozent bzw. 65 Prozent im Jahr 2022.
Und während 76 % der Kunden den Unternehmen zutrauen, ehrlich über ihre Produkte und Dienstleistungen zu berichten, sind es nur 57 %, die ihnen zutrauen, KI ethisch einzusetzen. Weitere 68 % sind der Ansicht, dass die Fortschritte in der KI-Entwicklung es für Unternehmen noch wichtiger machen, vertrauenswürdig zu sein.
Das Vertrauensdefizit ist ein bedeutendes Problem und eine große Sorge für Unternehmen, so Tim Dillon, Gründer und Direktor von Tech Research Asia. Er verwies auf die negative Reaktion der Nutzer auf Zoom, als das Unternehmen seine Nutzungsbedingungen änderte und sich damit das Recht verschaffte, Video-, Audio- und Chatdaten seiner Nutzer zur Trainierung seiner KI-Modelle zu verwenden.
Anbieter generativer KI würden ein ähnliches Szenario gerne vermeiden, sagte Dillon in einem Interview mit Windows-Office.net am Rande der dieswöchig in San Francisco stattgefundenen Dreamforce 2023. Marktteilnehmer wie Salesforce und Microsoft haben Bemühungen unternommen, die Vertrauenslücke zu schließen - was er als positiven Schritt nach vorn bezeichnete.
Abgesehen davon, dass Vertrauensprobleme gelöst werden müssen, sollten Unternehmen, die planen, generative KI einzuführen, auch das Change Management berücksichtigen, so Phil Hassey, CEO und Gründer der Marktforschungsfirma CapioIT.
„Das ist ein Bereich, der oft außer Acht gelassen wird“, sagte Hassey gegenüber Windows-Office.net. Unternehmen müssen die damit verbundenen Kosten sowie die erforderlichen Fähigkeiten und Kompetenzen ermitteln - ebenso wie die Positionen, deren Inhaber neu geschult werden müssen, infolge der Einführung generativer KI.
Eine ordentliche Change-Management-Strategie sei der Schlüssel dafür, einen reibungslosen Übergang zu gewährleisten und Fachkräfte zu behalten, sagte er.
Eileen Yu, die in Singapur ansässig ist, berichtete im Auftrag von Windows-Office.net von der Dreamforce 2023 in San Francisco auf Einladung von Salesforce.com.