Achtung: Generative KI wird Cyberangriffe verstärken, so ein neuer Google-Bericht
Dank generativer KI werden Cyberangriffe deutlich intelligenter werden. So ist damit zu rechnen.
Mit der zunehmenden Intelligenz der Technologie - beispielsweise durch Entwicklungen im Bereich der generativen KI - werden auch Cyberangriffe immer raffinierter. Googles neue Prognose zur Cybersicherheit zeigt, dass der Aufstieg der KI neue Bedrohungen mit sich bringt, von denen man wissen sollte.
Am Mittwoch veröffentlichte Google seine „Google Cloud Cybersecurity Forecast 2024“. Dabei handelt es sich um einen Bericht, der in Zusammenarbeit mit zahlreichen Google-Cloud-Sicherheitsteams erstellt wurde und einen tiefgehenden Einblick in die Cyberbedrohungslandschaft im kommenden Jahr gibt.
Der Bericht kommt zu dem Ergebnis, dass generative KI sowie große Sprachmodelle (LLMs) bei verschiedenen Cyberangriffen wie Phishing, SMS-Angriffen und anderen Social-Engineering-Maßnahmen eingesetzt werden, um Inhalte und Materialien - wie Stimmen und Videos - glaubwürdiger erscheinen zu lassen.
Zum Beispiel werden eindeutige Anzeichen für Phishing-Angriffe wie Rechtschreibfehler, Grammatikfehler sowie das Fehlen von kulturellem Kontext schwieriger zu erkennen, wenn generative KI eingesetzt wird - schließlich meistert sie die Nachahmung natürlicher Sprache hervorragend.
In anderen Fällen können Angreifer einem LLM legitimen Inhalt zuführen und eine modifizierte Version erzeugen, die ihren Zielen entspricht, dabei aber den gleichen Stil wie die ursprüngliche Eingabe beibehält.
Der Bericht prognostiziert außerdem, dass LLMs sowie andere generative KI-Tools, die als kostenpflichtiger Service angeboten werden, um Angreifern zu helfen, ihre Angriffe effizienter und mit geringerem Aufwand durchzuführen, weiterhin weiterentwickelt werden.
Allerdings sind böswillige KI-Systeme oder LLMs gar nicht zwingend erforderlich - schließlich ist die Verwendung generativer KI zur Erstellung von Inhalten, wie zum Beispiel zum Entwurf einer Rechnungserinnerung, an sich nicht böswillig. Dennoch können Angreifer dies ausnutzen, um Opfer für ihre eigenen Zwecke ins Visier zu nehmen.
So hat Windows-Office.net beispielsweise bereits darüber berichtet, wie Betrüger KI nutzen, um die Stimmen von Familienmitgliedern oder in Not befindlichen Freunden nachzuahmen, um so Geld von ihnen zu ergaunern.
Eine weitere potenzielle Bedrohung durch generative KI sind Informationsoperationen. Allein durch die Verwendung von KI-Prompts können Angreifer generative KI-Modelle nutzen, um Fake News, gefälschte Telefonanrufe sowie Deepfake-Bilder und -Videos zu erstellen.
Laut dem Bericht könnten diese Operationen in den Mainstream-Nachrichtenkreislauf gelangen. Die Skalierbarkeit dieser Operationen könnte das Vertrauen der Öffentlichkeit in Nachrichten und Online-Informationen verringern - bis hin zu dem Punkt, an dem alle misstrauischer werden oder aufhören, den Nachrichten zu glauben, die sie konsumieren.
„Dadurch könnte es für Unternehmen und Regierungen in naher Zukunft immer schwieriger werden, mit ihren Zielgruppen in Kontakt zu treten“, heißt es im Bericht.
Obwohl Angreifer KI nutzen, um ihre Angriffe wirksamer zu machen, können auch Cyber-Abwehrkräfte diese Technologie nutzen, um mit fortschrittlicheren Verteidigungsmaßnahmen zu reagieren.
„KI bietet unseren Cybersicherheitsexperten bereits jetzt erhebliche Vorteile: Sie ermöglicht es ihnen, ihre Fähigkeiten zu verbessern, Aufwände zu reduzieren und sich besser vor Bedrohungen zu schützen“, sagte Phil Venables, CISO bei Google Cloud, zu KI. „Wir erwarten, dass diese Fähigkeiten und Vorteile im Jahr 2024 weiter zunehmen, da die Sicherheitsexperten die Technologie nun selbst beherrschen und somit deren Entwicklung unter Berücksichtigung konkreter Anwendungsfälle steuern können.“
Einige Anwendungsfälle von generativer KI für Verteidiger sind die Nutzung zur Synthese großer Datenmengen, zur Erstellung brauchbarer Erkenntnisse sowie zur schnelleren Reaktion.