Tool zur Datenvergiftung hilft Künstlern, sich gegen das Ausspähen durch KI zur Wehr zu setzen. So funktioniert’s
„Nightshade“ - dieses Tool verändert die Pixel der Trainingsdaten, um KI-Modelle zur Bildgenerierung zu verwirren.
Ein großes Problem, das generative KI-Modelle plagt, ist das sogenannte „AI Scraping“ - ein Verfahren, bei dem KI-Unternehmen Daten aus Internetquellen ohne Zustimmung der Inhaber sammeln, um ihre KI-Modelle zu trainieren. „AI Scraping“ kann insbesondere negative Auswirkungen auf bildende Künstler haben, deren Werke verwendet werden, um in Text-zu-Bild-Modellen neue Kunstwerke zu generieren. Nun gibt es jedoch möglicherweise eine Lösung.
Forscher der Universität Chicago haben Nightshade entwickelt - ein neues Tool, das Künstlern die Möglichkeit gibt, ihre digitale Kunst „zu vergiften“, um zu verhindern, dass Entwickler KI-Tools anhand ihrer Werke trainieren.
Mit Nightshade können Künstler Veränderungen an den Pixeln in ihren Kunstwerken vornehmen, die für das menschliche Auge unsichtbar sind - doch laut dem MIT Technology Review, das einen exklusiven Einblick in die Forschung erhielt, veranlassen sie den generativen KI-Modell dazu, auf „chaotische“ und „unvorhersehbare“ Weise zu reagieren.
Der promptspezifische Angriff führt dazu, dass generative KI-Modelle nutzlose Ausgaben liefern, da das Lernverhalten des Modells manipuliert wird - wodurch das Modell die Objekte miteinander verwechselt.
Zum Beispiel könnte es lernen, dass ein Hund in Wirklichkeit eine Katze ist - was wiederum dazu führen würde, dass das Modell falsche Bilder erzeugt, die nicht zum Textprompt passen.
Laut der Forschungsarbeit können Proben des Nightshade-Gifts bereits ab 100 Proben einen Prompt für Stable Diffusion verfälschen, wie im untenstehenden Bild zu sehen ist.
Neben der Vergiftung des spezifischen Begriffs wirkt sich die Vergiftung auch auf verwandte Begriffe aus.
Laut der Forschungsarbeit würde im obigen Beispiel nicht nur der Begriff „Hund“ betroffen sein, sondern auch Synonyme wie „Welpe“, „Windhund“ und „Husky“.
Der Zusammenhang zwischen den Begriffen muss auch nicht so direkt sein wie im obigen Beispiel. So beschreibt der Artikel beispielsweise, wie der Begriff „Fantasy-Art“ „vergiftet“ wurde - und damit auch der dazugehörige Ausdruck „ein Gemälde von Michael Whelan“, einem bekannten Schöpfer von Fantasy-Kunst.
Es gibt verschiedene potenzielle Abwehrmaßnahmen, die die Modelltrainer einsetzen könnten - darunter das Filtern von Daten mit hohem Verlustwert, Methoden zur Positionserkennung sowie Methoden zur Entfernung von „Giftdaten“. Doch keine dieser Maßnahmen ist vollständig wirksam.
Außerdem ist es schwierig, die vergifteten Daten aus dem Modell zu entfernen, da das KI-Unternehmen jedes beschädigte Beispiel einzeln löschen müsste.
Nightshade hat nicht nur das Potenzial, KI-Unternehmen davon abzuhalten, Daten ohne Erlaubnis zu verwenden, sondern regt auch die Nutzer dazu an, Vorsicht walten zu lassen, wenn sie eines dieser generativen KI-Modelle einsetzen.
Es wurden weitere Versuche unternommen, das Problem zu mildern, dass die Werke von Künstlern ohne deren Erlaubnis verwendet werden. Einige KI-basierte Bildgeneratoren, wie der Bildgenerator von Getty Images und Adobe Firefly, verwenden ausschließlich Bilder, die vom Künstler freigegeben wurden oder als Open Source zur Verfügung stehen, um ihre Modelle zu trainieren. Im Gegenzug gibt es für die Künstler ein Entschädigungsprogramm.