Dieses Tool testet die Widerstandsfähigkeit von KI gegen „vergiftete“ Daten.
Eine Regierungsbehörde warnt, dass bösartige Daten verheerende Folgen für das Training von KI haben könnten. So kann Dioptra helfen.
Das National Institute of Standards and Technology (NIST) veröffentlicht erneut ein Tool, mit dem geprüft werden kann, wie anfällig künstliche Intelligenz-Modelle (KI) dafür sind, durch böswillige Daten „vergiftet“ zu werden.
Der Schritt erfolgt neun Monate nach dem Erlass der Exekutivanweisung von Präsident Biden bezüglich der sicheren, zuverlässigen und vertrauenswürdigen Entwicklung von KI - und stellt eine direkte Reaktion auf die Anforderung dieser Anweisung dar, wonach das NIST bei der Modelltests unterstützen soll. Zudem hat das NIST kürzlich ein Programm ins Leben gerufen, das Amerikanern hilft, KI zu nutzen, ohne Opfer von synthetischen oder von KI erzeugten Inhalten zu werden; zugleich fördert das Programm die Entwicklung von KI zum Wohle der Gesellschaft.
Das Tool, genannt Dioptra, wurde vor zwei Jahren erstmals veröffentlicht und soll kleinen sowie mittelständischen Unternehmen sowie Regierungsbehörden helfen. Mit Hilfe des Tools kann man herausfinden, welche Arten von Angriffen dazu führen, dass das eigene KI-Modell weniger effektiv arbeitet - außerdem lässt sich die Leistungsminderung quantifizieren, um die Bedingungen zu ermitteln, unter denen das Modell versagt.
Warum ist das wichtig?
Es ist von entscheidender Bedeutung, dass Organisationen Maßnahmen ergreifen, um die Sicherheit von KI-Programmen zu gewährleisten. NIST ermutigt Bundesbehörden aktiv dazu, KI in verschiedenen Systemen einzusetzen. KI-Modelle werden mit bestehenden Daten trainiert; falls jemand absichtlich schädliche Daten einfügt - beispielsweise Daten, die dazu führen, dass die KI Stoppschilder oder Geschwindigkeitsbegrenzungen ignoriert - könnten die Folgen laut NIST verheerend sein.
Trotz aller transformativen Vorteile der KI betont Laurie E. Locascio, Direktorin von NIST, dass diese Technologie Risiken mit sich bringt, die weitaus größer sind als die Risiken, die mit anderen Arten von Software verbunden sind. „Diese Leitfäden und Testplattformen werden Softwareentwicklern dabei helfen, sich dieser besonderen Risiken bewusst zu werden und Methoden zur Risikominimierung zu entwickeln - und gleichzeitig die Innovation zu fördern“, so sie in der Mitteilung.
Laut NIST kann Dioptra verschiedene Kombinationen aus Angriffen, Verteidigungsmechanismen und Modellarchitekturen testen, um besser zu verstehen, welche Angriffe die größte Bedrohung darstellen könnten und welche Lösungen am besten geeignet wären.
Das Tool verspricht zwar nicht, alle Risiken zu beseitigen, behauptet aber, dabei zu helfen, Risiken zu mindern, während es gleichzeitig Innovationen fördert. Es kann kostenlos heruntergeladen werden.