Anthropic weist auf das Potenzial von KI hin, „ausgefehrte, zerstörerische Cyberangriffe zu automatisieren“
Der Entwickler der Claude-LLMs überarbeitet seine Sicherheitsrichtlinien, um steigende Risiken zu bewältigen.
Anthropic, Entwickler der Claude-Reihe großer Sprachmodelle, hat diese Woche seine Richtlinien zu Sicherheitskontrollen für seine Software aktualisiert. Dies geschah, um der potenziellen Gefahr Rechnung zu tragen, dass böswillige Akteure die KI-Modelle nutzen könnten, um Cyberangriffe zu automatisieren.
Das PDF-Dokument, in dem die „verantwortungsvolle Skalierungspolitik“ des Unternehmens dargelegt wird, skizziert mehrere prozessuale Änderungen, die seiner Ansicht nach erforderlich sind, um die fortbestehenden Risiken einer missbräuchlichen Nutzung von KI-Modellen zu überwachen. Dazu gehören mehrere Stufen eines zunehmenden Risikos, die als „AI Safety Level Standards“ (ASL) bezeichnet werden und als „technische sowie operative Schutzmaßnahmen“ definiert sind.
Im Rahmen der „Routine-Tests“ des Unternehmens zur Überprüfung der Sicherheit von KI-Modellen - auch als „Kapazitätsbewertung“ bezeichnet - berichtet Anthropic, dass es eine Fähigkeit entdeckt habe, „die einer eingehenden Untersuchung bedarf und möglicherweise stärkere Schutzmaßnahmen erfordert“.
Diese Fähigkeit wird im Kontext von Cyber-Operationen als Bedrohung beschrieben: „Die Fähigkeit, ausgeklügelte und zerstörerische Cyberangriffe erheblich zu verbessern oder zu automatisieren - einschließlich, aber nicht beschränkt auf das Auffinden neuer Zero-Day-Exploit-Ketten, die Entwicklung komplexer Malware oder die Durchführung umfangreicher, schwer erkennbarer Netzwerkangriffe.“
Der Bericht beschreibt Maßnahmen, die ergriffen werden, um die Angelegenheit kontinuierlich zu überwachen:
„Dies beinhaltet die Zusammenarbeit mit Experten im Bereich Cyber-Operationen, um das Potenzial von Spitzenmodellen hinsichtlich der Verstärkung bzw. Abmilderung von Cyber-Bedrohungen zu bewerten. Zudem werden wir die Einführung gestufter Zugriffskontrollen oder schrittweiser Implementierungen für Modelle mit fortgeschrittenen Cyber-Fähigkeiten in Betracht ziehen. Wir werden sowohl Vor- als auch Nachbereitstellungstests durchführen, einschließlich spezialisierter Bewertungen. Alle wichtigen Ergebnisse werden wir gemeinsam mit unseren Leistungsberichten dokumentieren.“
Derzeit müssen laut dem Bericht alle KI-Modelle von Anthropic die Anforderungen der ASL „Stufe 2“ erfüllen. Diese Stufe „erfordert ein Sicherheitssystem, das vermutlich die meisten gelegenheitsmäßigen Angreifer abwehren kann, sowie Sicherheitsprüfungen durch Drittanbieter und Lieferanten, physische Sicherheitsmaßnahmen sowie die Anwendung von Prinzipien der Sicherheit durch Design“, heißt es im Bericht.
Die aktualisierten Richtlinien können als Teil der Bemühungen von Anthropic und OpenAI angesehen werden, freiwillig Beschränkungen für den Einsatz künstlicher Intelligenz zu setzen - angesichts der laufenden Debatte darüber, was im Hinblick auf die Regulierung von KI-Technologien getan werden sollte und was nicht. Im August schlossen das Unternehmen sowie OpenAI Vereinbarungen mit dem US Artificial Intelligence Safety Institute am National Institute of Standards and Technology (NIST) des US-Handelsministeriums, um bei der Forschung, Testung und Bewertung von KI zusammenzuarbeiten.
Die Idee, dass KI Cyberangriffe automatisieren könnte, kursiert bereits seit einiger Zeit. Der Firewall-Hersteller Check Point Software Technologies warnte im vergangenen Jahr, dass staatliche Akteure aus Russland versuchten, ChatGPT von OpenAI zu kompromittieren, um Phishing-Angriffe zu automatisieren.
Der Anbieter von Endpunktsicherheitssoftware CrowdStrike berichtete diesen Sommer, dass generative KI anfällig für eine Vielzahl speziell konstruierter Eingaben sei, die die Schutzmechanismen der Programme umgehen können.