China und USA Teil eines multilateralen Abkommens zur Zusammenarbeit bei KI-Risiken
Die vom Vereinigten Königreich veröffentlichte Bletchley-Erklärung vereint 28 Nationen in einer Vereinbarung, potenzielle Risiken im Zusammenhang mit „grenzgangender“ Künstlichen Intelligenz gemeinsam zu erkennen und zu bewältigen.
Eine Gruppe von 28 Ländern, darunter China und die USA, hat sich darauf geeinigt, zusammenzuarbeiten, um potenzielle Risiken im Zusammenhang mit „Grenzen überschreitender“ künstlicher Intelligenz (KI) zu erkennen und zu bewältigen. Damit ist dieses das erste multilaterale Abkommen dieser Art.
Die vom Vereinigten Königreich veröffentlichte Bletchley-Erklärung zur Sicherheit künstlicher Intelligenz spiegelt das Bewusstsein der Vertragsstaaten für die „dringende Notwendigkeit“ wider, die Entwicklung und Anwendung von KI auf eine „sichere und verantwortungsvolle Weise“ zu gewährleisten - zum Wohle der gesamten Weltgemeinschaft. Laut der Erklärung erfordert dies eine umfassendere internationale Zusammenarbeit. Die Erklärung wurde bereits von Ländern aus Asien, der EU und dem Nahen Osten unterzeichnet, darunter Singapur, Japan, Indien, Frankreich, Australien, Deutschland, Südkorea, die Vereinigten Arabischen Emirate und Nigeria.
Die Länder erkennen, dass erhebliche Risiken aus einer vorsätzlichen Fehlnutzung oder aus unbeabsichtigten Kontrollproblemen im Zusammenhang mit fortschrittlichen KI-Systemen entstehen können - insbesondere Risiken im Bereich der Cybersicherheit, der Biotechnologie und der Desinformation. Die Erklärung weist auf potenziell schwerwiegende und katastrophale Schäden durch KI-Modelle hin sowie auf Risiken im Zusammenhang mit Vorurteilen und Datenschutz.
Angesichts der Erkenntnis, dass Risiken und Fähigkeiten von Frontier-KI noch nicht vollständig verstanden werden, haben die Länder vereinbart, zusammenzuarbeiten, um ein gemeinsames, „wissenschaftlich und evidenzbasiertes Verständnis“ der Risiken von Frontier-KI zu entwickeln.
Die Erklärung beschreibt Grenzen setzende KI als Systeme, die „hochleistungsfähige allgemeine KI-Modelle“ umfassen - einschließlich Grundmodelle, die eine Vielzahl von Aufgaben ausführen können - sowie spezifische, auf bestimmte Aufgaben begrenzte KI.
„Wir beschließen, in inklusiver Weise zusammenzuarbeiten, um eine menschenzentrierte, vertrauenswürdige und verantwortungsvolle KI zu gewährleisten, die sicher ist und das Wohl aller fördert - und zwar durch bestehende internationale Foren sowie andere relevante Initiativen“, heißt es in der Erklärung.
„Dabei erkennen wir, dass Länder die Bedeutung einer innovationsfördernden sowie verhältnismäßigen Governance- und Regulierungsstrategie berücksichtigen sollten, die die Vorteile maximiert und die mit KI verbundenen Risiken berücksichtigt.“
Dieser Ansatz könnte die Festlegung von Klassifizierungen und Kategorisierungen von Risiken auf der Grundlage der lokalen Gegebenheiten eines Landes sowie der geltenden rechtlichen Rahmenbedingungen umfassen. Zudem könnte eine Zusammenarbeit zu neuen Ansätzen erforderlich sein - beispielsweise hinsichtlich gemeinsamer Grundsätze und Verhaltensregeln.
Die Bemühungen der Gruppe werden darauf abzielen, in allen Ländern risikobasierte Richtlinien zu entwickeln, bei Bedarf zusammenzuarbeiten sowie zu berücksichtigen, dass die Ansätze auf nationaler Ebene unterschiedlich sein können. Neben der Notwendigkeit einer größeren Transparenz seitens privater Akteure, die fortschrittliche KI-Fähigkeiten entwickeln, umfassen diese neuen Bemühungen auch die Entwicklung geeigneter Bewertungskriterien und Werkzeuge für Sicherheitstests sowie den Ausbau der Kapazitäten des öffentlichen Sektors und der wissenschaftlichen Forschung.
Der britische Premierminister Rishi Sunak sagte: „Dies ist ein bedeutender Meilenstein - er zeigt, dass die führenden AI-Nationen der Welt sich darin einig sind, wie dringend es ist, die Risiken der Künstlichen Intelligenz zu verstehen.“
Die britische Technologieministerin Michelle Donelan fügte hinzu: „Wir haben stets gesagt, dass kein einzelnes Land allein den Herausforderungen und Risiken im Zusammenhang mit KI begegnen kann. Die heutige wegweisende Erklärung markiert den Beginn eines neuen globalen Bemühens, das Vertrauen der Öffentlichkeit zu gewinnen, indem die sichere Entwicklung dieser Technologie gewährleistet wird.“
Diese Woche wurde außerdem ein von Singapur geleitetes Projekt namens „Sandbox“ angekündigt. Ziel dieses Projekts ist es, einen standardisierten Satz von Bewertungskriterien für generative KI-Produkte bereitzustellen. An der Initiative beteiligen sich führende globale Unternehmen wie Anthropic und Google. Leitfaden für das Projekt ist ein Entwurf eines Katalogs, der die derzeitigen Bewertungskriterien sowie Methoden zur Bewertung großer Sprachmodelle auflistet.
Das Katalog verzeichnet häufig verwendete technische Testwerkzeuge, ordnet sie nach dem, was sie testen sowie nach ihren Methoden, und empfiehlt eine Grundauswahl an Tests zur Bewertung von generativen KI-Produkten. Ziel ist es, eine gemeinsame Sprache zu schaffen sowie die „breitere, sichere und vertrauenswürdige Einführung generativer KI“ zu unterstützen.
Die Vereinten Nationen (UN) haben letzten Monat ein Beratergremium eingesetzt, das prüfen soll, wie Künstliche Intelligenz geregelt werden sollte, um potenzielle Risiken zu minimieren. Dabei wurde zugesagt, einen „weltweit inklusiven“ Ansatz zu verfolgen. Das Gremium besteht derzeit aus 39 Mitgliedern und umfasst Vertreter von Regierungsbehörden, privaten Organisationen sowie der Wissenschaft - darunter den Leiter für KI-Angelegenheiten der singapurischen Regierung, den spanischen Staatssekretär für Digitalisierung und KI sowie den CTO von OpenAI.