Baidu bestreitet jegliche Verbindungen zu berichteten chinesischen Militärübungen mit seinem GenAI-Chatbot
Wissenschaftler geben an, sie entwickelten ein Militärsystem auf Basis von Baidus Ernie Bot. Das chinesische Technologieunternehmen bestreitet jegliche Verbindungen zu solchen Forschungen.
Baidu hat Andeutungen zurückgewiesen, es habe Verbindungen zu Wissenschaftlern, die behaupten, sie würden ein chinesisches Militärsystem auf der Grundlage des generativen KI-Chatbots Ernie Bot des Technologieriesen entwickeln.
Am Freitag wurde in Medienberichten bekannt, dass eine mit der chinesischen Volksbefreiungsarmee (PLA) verbundene Universität das KI-System der Armee mit Baidus großem Sprachmodell (LLM) trainiert. Wie zuerst die South China Morning Post berichtete, fütterten Forscher der Informationsingenieuruniversität das LLM mit Daten zu Waffen und Truppen, die in vergangenen Konflikten eingesetzt wurden, um Kampfstrategien vorherzusagen.
In Anlehnung an eine wissenschaftliche Arbeit, die letzten Monat im chinesischen Journal Command Control & Simulation veröffentlicht wurde, heißt es im Bericht der SCMP, dass auch andere LLMs verwendet wurden, darunter GPT3.5 und GPT4. Anschließend wurde das LLM dazu aufgefordert, auf Grundlage der Trainingsdaten Kampfstrategien sowie deren Ergebnisse zu generieren.
In der Arbeit verwiesen die Forscher auf die militärische Invasion der USA in Libyen im Jahr 2011 und erklärten, sie hätten Kampftaktiken verwendet, die von beiden Seiten des Konflikts angewandt wurden, sowie die gewünschten Ziele eingegeben, damit Ernie Bot die Strategie der US-Armee vorhersagen konnte.
Das Forschungsteam erklärte, dass die simulierten Ergebnisse bei Entscheidungsprozessen hilfreich sein könnten und dazu genutzt werden könnten, das Wissen sowie das kognitive Verständnis des LLM weiter zu verbessern. Ziel war es, künstlich intelligente Militärsysteme zu optimieren, damit sie menschliche Absichten besser verstehen können - was von entscheidender Bedeutung ist, da menschliche Gegner unberechenbar sein können.
Die Forscher fügten hinzu, dass ihre Arbeit noch in einem frühen Stadium sei und nur zu Forschungszwecken durchgeführt werde.
Die Aktien von Baidu stürzten ab, nachdem Berichte über die Forschung aufgetaucht waren.
Der chinesische Technologieanbieter hat seither bestritten, irgendwelche Verbindungen zu den Autoren der Studie oder zur Universität zu haben. In einer Stellungnahme bezüglich der wissenschaftlichen Arbeit erklärte Baidu, dass der Ernie Bot der breiten Öffentlichkeit zur Verfügung stehe und von ihr genutzt werden könne.
Baidu erklärte außerdem, es habe „keine geschäftliche Zusammenarbeit betrieben und keine maßgeschneiderten Dienstleistungen erbracht“ an das Team, das den wissenschaftlichen Bericht verfasst hat, sowie an keine der Institutionen, mit denen die Forscher verbunden sind.
Es wurde darauf hingewiesen, dass der ursprüngliche SCMP-Artikel geändert wurde, um die Stellungnahme widerzugeben.
Baidu erklärte: „[Wir] sind bestrebt, unsere künstliche Intelligenz-Produkte und -Geschäfte im Einklang mit geltenden Gesetzen, Vorschriften sowie bewährten unternehmerischen Praktiken zu betreiben.“
Im vergangenen August stellte die chinesische Suchmaschinen- und Herstellerin von autonomen Fahrzeugen den Ernie Bot der Öffentlichkeit vor, in der Hoffnung, Nutzerfeedback zu erhalten, um die Plattform zu verbessern. Zudem plant das Unternehmen, KI- natives Apps zu veröffentlichen, die laut Unternehmensangaben vier wesentliche Fähigkeiten der Generativen KI bieten sollen - nämlich Schlussfolgern, Gedächtnis, Generierung sowie Verständnis.
Ernie Bot kann - neben anderen beworbenen Funktionen - anhand eines Textprompts Text, Bilder, Audio und Video generieren. Zudem ist er in der Lage, in mehreren chinesischen Regionaldialekten zu sprechen, darunter dem Sichuan-Dialekt. Seit seiner Einführung im März mit begrenztem Zugang hat das KI-Modell laut Baidu in mehr als 200 Schreibgenres an Kompetenz gewonnen; die Qualität der erstellten Inhalte hat sich dabei um das 1,6-fache verbessert. In diesem Monat wurden außerdem fünf Plugins zu Ernie Bot hinzugefügt, darunter Baidu Search, Werkzeuge zur Datenanalyse und -visualisierung sowie eine Funktion zur Umwandlung von Text in Video.
Im November letzten Jahres drängte das chinesische Verteidigungsministerium laut einem Bericht der staatlichen Zeitung China Daily die Länder dazu, bei der Anwendung von KI im Militärbereich „vorsichtig und verantwortungsbewusst“ zu handeln. Es wurde darauf hingewiesen, dass die chinesische Regierung die Sicherheitsrisiken im Zusammenhang mit dem Einsatz von KI im Militär genau beobachte. „China lehnt es ab, die Vorteile der KI zu nutzen, um die Souveränität anderer Länder zu untergraben“, sagte Wu Qian, Sprecher des Verteidigungsministeriums.
In anderen Nachrichten dieser Woche berichtete die staatliche Nachrichtenagentur Xinhua, dass Chinas Quantencomputer der dritten Generation, Origin Wukong, seit seinem Start am 6. Januar bereits 33.871 Aufgaben für Nutzer weltweit bearbeitet hat.
Laut dem Anhui Quantum Computing Engineering Research Center haben Nutzer aus mehr als 60 Ländern den Quantencomputer mindestens 350.000 Mal aus der Ferne genutzt. Dabei lagen die Nutzer aus den USA in Bezug auf die Häufigkeit an erster Stelle. Der Quantencomputer wird von einem im Land hergestellten Chip mit 72 Qubits gesteuert.