Laut CrowdStrike nutzen Cyberkriminelle Metas KI „Llama 2“.

Teile des Codes, die das Microsoft-Tool PowerShell ausnutzen, entsprechen dem Ausgabestil großer Sprachmodelle.

Laut dem jährlichen Global Threat Report des Cybersecurity-Unternehmens CrowdStrike, der am Mittwoch veröffentlicht wurde, haben Cyberkriminelle erste Schritte unternommen, um generative KI zur Durchführung von Angriffen einzusetzen - darunter auch das große Sprachmodell Llama 2 von Meta.

Laut Angaben von CrowdStrike nutzte die Gruppe Scattered Spider Metas großes Sprachmodell, um Skripte für Microsofts PowerShell-Programm zur Automatisierung von Aufgaben zu generieren. Laut CrowdStrike wurde dieses Programm verwendet, um die Anmeldeinformationen von Mitarbeitern bei „einem nordamerikanischen Finanzdienstleistungsunternehmen“ herunterzuladen.

Die Autoren verfolgten die Verwendung von Llama 2, indem sie den PowerShell-Code untersuchten. „Der PowerShell-Code, der dazu diente, die unveränderlichen IDs der Nutzer herunterzuladen, ähnelte den Ausgaben großer Sprachmodelle wie ChatGPT“, erklärt CrowdStrike. „Insbesondere das Muster - ein Kommentar, anschließend der eigentliche Befehl sowie danach eine neue Zeile für jeden weiteren Befehl - entspricht der Ausgabe des Llama 2 70B-Modells. Angesichts dieses ähnlichen Codestils ist es wahrscheinlich, dass Scattered Spider bei dieser Aktion ein Sprachmodell genutzt hat, um das PowerShell-Skript zu generieren.“

Die Autoren warnen, dass die Fähigkeit, Angriffe, die mithilfe generativer KI oder durch generative KI verbessert werden, zu erkennen, derzeit begrenzt ist - aufgrund der Schwierigkeit, Spuren der Nutzung von Large Language Models zu finden. Das Unternehmen vermutet, dass die Nutzung solcher Modelle bisher nur begrenzt stattfindet: „Es gibt lediglich selten konkrete Beobachtungen, die auf eine mögliche Nutzung generativer KI durch Angreifer in bestimmten Phasen einer Operation hindeuten.“

Laut Prognose des Unternehmens wird die missbräuchliche Nutzung generativer KI sicher zunehmen: „Die kontinuierliche Entwicklung der KI wird zweifellos die Gefahr ihres potenziellen Missbrauchs erhöhen.“

Die bisherigen Angriffe stoßen auf das Problem, dass die hohen Kosten für die Entwicklung großer Sprachmodelle dazu führen, dass die Art der Ausgaben, die Angreifer mit Hilfe dieser Modelle als Angriffscode verwenden können, begrenzt ist.

„Die Versuche von Bedrohungsakteuren, im Jahr 2023 solche Modelle zu entwickeln und einzusetzen, glichen häufig Betrügereien, die zu relativ schlechten Ergebnissen führten und in vielen Fällen schnell wirkungslos wurden“, heißt es im Bericht.

Ein weiterer Bereich für missbräuchliche Nutzung neben der Codeerstellung ist die Verbreitung von Fehlinformationen. In diesem Zusammenhang hebt der CrowdStrike-Bericht die Vielzahl von Regierungswahlen in diesem Jahr hervor, die Ziel von Desinformationskampagnen sein könnten.

Neben der diesjährigen US-Präsidentschaftswahl „werden Personen aus 55 Ländern, die mehr als 42 Prozent der Weltbevölkerung repräsentieren, an Präsidentschafts-, Parlaments- und/oder allgemeinen Wahlen teilnehmen“, merken die Autoren an.

Wahlmanipulationen lassen sich in hochtechnologische und niedrigtechnologische unterteilen. Der hochtechnologische Ansatz bestehe darin, WahlSysteme zu stören oder zu beschädigen, indem man sowohl die Abstimmungsmechanismen als auch die Weitergabe von Wahlinformationen an die Wähler manipuliert, so die Autoren.

Der low-tech-Ansatz ist Fehlinformation - wie zum Beispiel „störende Erzählungen“, die „das öffentliche Vertrauen untergraben könnten“.

Solche „Informationsoperationen“ oder „IO“, wie CrowdStrike sie nennt, finden bereits statt - „da chinesische Akteure künstlich generierte Inhalte in Social-Media-Einflusskampagnen genutzt haben, um Inhalte zu verbreiten, die die Kandidaten bei der Präsidentschaftswahl in Taiwan kritisieren.“

Das Unternehmen prognostiziert: „Angesichts der Leichtigkeit, mit der KI-Tools irreführende, aber glaubwürdige Erzählungen generieren können, werden Gegner mit hoher Wahrscheinlichkeit solche Werkzeuge nutzen, um im Jahr 2024 Informationsoperationen gegen Wahlen durchzuführen. Auch politisch aktive Anhänger in den Ländern, in denen Wahlen stattfinden, werden vermutlich generative KI einsetzen, um Desinformation zu erstellen und sie in ihren eigenen Kreisen zu verbreiten.“