Künstliche Intelligenz, echte Angst: Warum wir uns nicht vom Grübeln abhalten können und KI dennoch lieben

Stellt künstliche Intelligenz tatsächlich eine Bedrohung für die Sicherheit und das Wohlergehen großer Teile der Weltbevölkerung dar? Angesichts immer dringenderer Aufrufe zu Handeln warnt nun auch die UNO.

Hat eine KI diesen Text geschrieben?

Solche Fragen waren ein freundlicher Scherz, als die generative künstliche Intelligenz (Gen-AI) erstmals in die öffentliche Diskussion einstieg. Zwei Jahre später nutzen Menschen auf der ganzen Welt KI für allerlei Zwecke - während andere wichtige Fragen bezüglich der langfristigen Auswirkungen dieser aufkommenden Technologie stellen.

Letzten Monat kritisierten Fans der beliebten südkoreanischen Band Seventeen einen Artikel der BBC, in dem fälschlicherweise behauptet wurde, die Gruppe habe bei der Liedkomposition KI eingesetzt. Woozi, Bandmitglied und Hauptverantwortlicher für die kreative Gestaltung der meisten Songs der Band, sagte gegenüber Reportern, er habe mit KI experimentiert, um die Entwicklung dieser Technologie besser zu verstehen sowie deren Vor- und Nachteile zu erkennen.

Die BBC missverstand die Experimente und deutete sie so, als hätten Seventeen bei der Veröffentlichung ihres neuesten Albums KI genutzt. Wie erwartet löste dieser Fehler einen Aufruhr aus - insbesondere die Fans waren verärgert, weil Seventeen seit ihrem musikalischen Debüt als „selbstproduzierende“ Band gilt. Alle 13 Mitglieder der Gruppe sind an dem Songwriting, der Musikproduktion sowie der Choreografie beteiligt.

Ihre Fans betrachteten das AI-Label als eine Herabwürdigung der kreativen Fähigkeiten der Gruppe. „[Seventeen] schreiben, produzieren und choreografieren! Sie sind talentiert - und brauchen definitiv weder KI noch irgendetwas anderes“, sagte ein Fan auf X. Ein anderer bezeichnete das AI-Label als Beleidigung für die Bemühungen und den Erfolg der Gruppe.

Der Vorfall veranlasste Woozi dazu, auf seinen Instagram-Stories zu schreiben: „Alle Lieder von Seventeen wurden von menschlichen Kreativen geschrieben und komponiert.“

Frauen, Frieden und Sicherheit

Natürlich ist die Angst, dass KI die menschliche Kreativität untergräbt, nicht die einzige Sorge hinsichtlich der immer schneller wachsenden Auswirkungen dieser Technologie auf unsere Welt - und wohl auch bei weitem nicht die größte Sorge. Systemische Probleme im Zusammenhang mit KI könnten potenziell die Sicherheit und das Wohlergehen großer Teile der Weltbevölkerung gefährden.

Konkret kann laut einer kürzlich von UN Women und dem UN-Universitätsinstitut Macau (UNU Macau) veröffentlichten Studie die Einführung der Technologie die Sicherheit von Frauen gefährden. In der Studie wurde festgestellt, dass geschlechtsspezifische Vorurteile in gängigen KI-Systemen erhebliche Hindernisse für die positive Nutzung von KI zur Förderung von Frieden und Sicherheit in Regionen wie Südostasien darstellen.

Die im Mai 2024 durchgeführte Studie untersuchte Zusammenhänge zwischen KI, digitaler Sicherheit sowie Fragen bezüglich Frauen, Frieden und Sicherheit in Südostasien. Es wird erwartet, dass die KI das Bruttoinlandsprodukt der Region im Jahr 2030 um 1 Billion Dollar steigern wird.

„Obwohl der Einsatz von KI zu Friedenszwecken zahlreiche Vorteile haben kann - wie eine bessere Inklusivität sowie eine wirksigere Prävention von Konflikten und die Aufdeckung von Menschenrechtsverletzungen - wird sie geschlechtsspezifisch ungleich genutzt. Allgegenwärtige Geschlechtervorurteile führen dazu, dass Frauen weniger von der Anwendung dieser Technologien profitieren“, heißt es in dem Bericht.

Laut dem Bericht sollten Anstrengungen unternommen werden, um die Risiken der Nutzung von KI-Systemen zu verringern - insbesondere in sozialen Medien sowie in Werkzeugen wie Chatbots und mobilen Anwendungen. Ebenso sollten Bemühungen unternommen werden, die Entwicklung von KI-Werkzeugen voranzutreiben, die eine „geschlechtergerechte Friedenspolitik“ unterstützen.

Die Studie stellte fest, dass Werkzeuge, die es der Öffentlichkeit ermöglichen, Texte, Bilder und Videos zu erstellen, weithin zugänglich gemacht wurden - ohne Berücksichtigung ihrer Auswirkungen auf Geschlechterfragen sowie auf die nationale oder internationale Sicherheit.

„Gen AI hat von der Veröffentlichung großer Sprachmodelle wie ChatGPT profitiert; diese ermöglichen es Nutzern, Texte anzufordern, deren Ton, Inhalte und Format individuell angepasst werden können“, hieß es. „Gen AI birgt das Risiko, die Verbreitung von Desinformation zu beschleunigen, indem es die schnelle Erstellung großer Mengen scheinbar authentischer Inhalte ermöglicht. Zudem fällt es dadurch sehr leicht, überzeugende Social-Media-Bots zu entwickeln, die absichtlich polarisierende, hasserfüllte sowie frauenfeindliche Inhalte verbreiten.“

Die Forschung zitierte eine Studie aus dem Jahr 2023, in der Forscher der Association for Computational Linguistics feststellten, dass ChatGPT bei 100 falschen Aussagen in 80 Prozent der Fälle ebenfalls falsche Angaben machte.

Der UN-Bericht wies darauf hin, dass Forscher weltweit seit mehreren Jahren vor den Risiken von Deepfake-Pornografie und extremistischem Inhalt warnen. Doch jüngste Entwicklungen in der KI-Technologie haben das Ausmaß des Problems verschärft.

„Es wurde nachgewiesen, dass KI-Systeme zur Bildgenerierung leicht misogynes Inhalte erzeugen können - darunter die Erstellung sexualisierter Frauenkörper auf Basis von Profilbildern oder die Darstellung von Personen, die bestimmte Aktivitäten ausführen, gemäß sexistischen und rassistischen Stereotypen“, heißt es im Bericht von UN Women.

„Diese Technologien haben die einfache und überzeugende Erstellung von Deepfake-Videos ermöglicht; dabei können gefälschte Videos von jedem Menschen allein auf Grundlage von Fotovorlagen erstellt werden. Dies bereitet insbesondere Frauen große Sorgen, denn sie könnten beispielsweise ohne ihr Einverständnis in gefälschten, sexualisierten Videos dargestellt werden - mit lebenslangen Folgen für ihren Ruf und ihre Sicherheit.“

Wenn Ängste aus der Realität ins Internet wandern

Eine im Januar 2024 vom Informationssicherheitsexperten CyberArk durchgeführte Studie deutete ebenfalls darauf hin, dass die Bedenken hinsichtlich der Integrität digitaler Identitäten zunehmen. Die Umfrage unter 2.000 Arbeitnehmern im Vereinigten Königreich ergab, dass 81 Prozent der Befragten befürchten, dass ihr visuelles Erscheinungsbild gestohlen oder für Cyberangriffe genutzt werden könnte. 46 Prozent machen sich zudem Sorgen darüber, dass ihr Abbild in Deepfakes verwendet werden könnte.

Konkret: 81 Prozent der Frauen machen sich Sorgen darüber, dass Cyberkriminelle KI nutzen, um vertrauliche Daten durch digitale Betrügereien zu stehlen - ein Prozentsatz, der höher ist als bei Männern (74 Prozent), die ähnliche Bedenken haben. Zudem machen sich mehr Frauen (46 Prozent) Gedanken darüber, dass KI dazu verwendet wird, Deepfakes zu erstellen; bei Männern sind es 38 Prozent.

Eine Umfrage von CyberArk ergab, dass 50 Prozent der Frauen Bedenken haben, dass KI dazu verwendet wird, sie zu imitieren - ein Wert, der über den 40 Prozent der Männer liegt, die ähnliche Sorgen haben. Zudem machen sich 59 Prozent der Frauen Gedanken darüber, dass KI dazu genutzt werden könnte, ihre persönlichen Daten zu stehlen; bei den Männern sind es 50 Prozent, die ebenfalls besorgt sind.

Ich traf mich mit Eduarda Camacho, der COO von CyberArk, und unser Gespräch drehte sich darum, warum Frauen größere Ängste vor KI haben. Sollten Frauen sich auf digitalen Plattformen nicht sicherer fühlen, weil sie ihre Merkmale wie das Geschlecht nicht preisgeben müssen?

Camacho vermutete, dass Frauen sich der Risiken im Internet möglicherweise stärker bewusst sind und dass diese Bedenken von der Verletzlichkeit herrühren könnten, die viele Frauen im „Offline-Alltag“ empfinden. Sie sagte, dass Frauen in der Regel häufiger Ziel von Online-Missbrauch sowie Falschinformationen auf sozialen Medien seien.

Die Besorgnis ist ebenfalls nicht unbegründet. Camacho sagte, dass KI die Online-Identitäten erheblich beeinflussen kann. CyberArk ist auf Identitätsmanagement spezialisiert und macht sich insbesondere wegen dieses Problems Sorgen.

Insbesondere werden Deepfakes im Zuge technologischer Fortschritte immer schwieriger zu erkennen. Obwohl 70 Prozent der Unternehmen davon überzeugt sind, dass ihre Mitarbeiter Deepfakes des eigenen Führungsteams erkennen können, meinte Camacho, dass dieser Wert vermutlich überschätzt sei - mit Verweis auf Erkenntnisse aus dem „Threat Landscape Report 2024“ von CyberArk.

Eine separate Studie vom Juli 2024 des Anbieters für digitale Identitätsmanagement-Lösungen Jumio ergab, dass 46 Prozent der Befragten glaubten, ein Deepfake-Video eines Politikers erkennen zu können. Die Singapurer sind sich dabei am sichersten - mit 60 Prozent - gefolgt von Menschen aus Mexiko (51 Prozent), den USA (37 Prozent) und dem Vereinigten Königreich (33 Prozent).

Da es ungehindert und unkontrolliert in sozialen Medien verbreitet werden darf, kann künstlich generierter, betrügerischer Inhalt zu sozialen Unruhen führen und Gesellschaften - einschließlich vulnerabler Gruppen - negativ beeinflussen. Solcher Inhalt verbreitet sich schnell, wenn er von Personen mit großer Online-Präsenz geteilt wird.

Laut einer Untersuchung des Center for Countering Digital Hate (CCDH) wurden Elon Musks Aussagen zu den US-Wahlen - Aussagen, die als falsch oder irreführend eingestuft wurden - auf seiner Social-Media-Plattform X fast 1,2 Milliarden Mal angesehen. Vom 1. Januar bis zum 31. Juli analysierte das CCDH Musks Beiträge zu den Wahlen und identifizierte 50 Beiträge, die von Faktenprüfern als unrichtig eingestuft wurden.

Musks Beitrag zu einem von KI erstellten Audio-Clip, in dem die US-Präsidentschaftskandidatin Kamala Harris zu hören ist, verzeichnete mindestens 133 Millionen Aufrufe. Der Beitrag war nicht mit einem Warnhinweis versehen - was gegen die Richtlinien der Plattform verstößt. Laut CCDH sollen Nutzer „keine synthetischen, manipulierten oder aus dem Zusammenhang gerissenen Medien teilen, die Menschen täuschen oder verwirren und zu Schäden führen könnten“.

„Das Fehlen von Community Notes zu diesen Beiträgen zeigt, dass [Musks] Unternehmen kläglich versagt darin, jene algorithmisch verstärkte Aufstachelung einzudämmen, die, wie wir alle wissen, zu Gewalt in der Realität führen kann - wie wir es am 6. Januar 2021 erlebt haben“, sagte Imran Ahmed, CEO der CCDH. „Es ist an der Zeit, Abschnitt 230 des Communications Decency Act von 1986 zu ändern, damit Social-Media-Unternehmen genauso zur Verantwortung gezogen werden können wie jede Zeitung, Rundfunkanstalt oder Firma in Amerika.“

Ebenso beunruhigend ist, wie die Tech-Giganten darum wetteifern, noch mehr Macht und Einfluss zu erlangen.

„Es ist verrückt, zu beobachten, was im Silicon Valley passiert“, sagte der amerikanische Geschäftsmann und Investor Mark Cuban in einem Interview bei The Daily Show. „[Sie] versuchen, sich in eine Position zu bringen, in der sie so viel Kontrolle wie möglich ausüben können. Das ist nichts Gutes.“

„Sie haben den Kontakt zur realen Welt verloren“, sagte Cuban.

Er sagte außerdem, dass die Online-Reichweite von X es Musk ermöglicht, weltweit mit politischen Führungskräften in Kontakt zu treten - sowie dass es einen Algorithmus gibt, der davon abhängt, was Musk mag.

Auf die Frage, wohin er meint, dass die KI steuert, wies Cuban auf die rasante Entwicklung der Technologie hin und sagte, es sei nach wie vor unklar, wie große Sprachmodelle zukünftige Entwicklungen vorantreiben werden. Obwohl er davon ausgeht, dass die Auswirkungen im Allgemeinen positiv sein werden, sieht er viele Ungewissheiten.

Handeln Sie, bevor der Einfluss der KI außer Kontrolle gerät.

Wie sollen wir also vorgehen? Zunächst sollten wir den Irrtum überwinden, dass KI die Lösung für alle Probleme des Lebens ist. Unternehmen beginnen erst jetzt, über diese Übertreibungen hinauszugehen und den wahren Wert von KI zu ermitteln.

Wir sollten also zu schätzen wissen, dass trotz des Wunschs nach Einstellungen mittels KI und höherer Produktivität die menschliche Kreativität nach wie vor höher bewertet wird als KI - wie Seventeen und die Fans der Band eindrucksvoll unter Beweis gestellt haben.

Für einige wird KI jedoch als Mittel angesehen, sprachliche Barrieren zu überwinden. Die irische Boyband Westlife veröffentlichte beispielsweise ihren ersten Song in Mandarin. Gesungen wurde dieser von ihren künstlich intelligenten Gesangsvertretern - der sogenannten „AI Westlife“. Der Song entstand in Zusammenarbeit mit der Tencent Music Entertainment Group.

Vor allem müssen, wie der UN-Bericht betont, die systemischen Probleme im Zusammenhang mit KI angegangen werden - und diese Bedenken sind keineswegs neu. Sowohl Organisationen als auch Einzelpersonen haben wiederholt auf diese Herausforderungen hingewiesen sowie mehrfach gefordert, dass die notwendigen Sicherheitsmaßnahmen eingeführt werden. Die Regierungen benötigen geeignete Vorschriften und Durchsetzungsmechanismen, um Missbräuche zu verhindern.

Und sie müssen dies schnell tun, bevor der Einfluss der KI außer Kontrolle gerät und die gesamte Gesellschaft - nicht nur Frauen - mit lebenslangen Sicherheitsfolgen konfrontiert wird.