McAfee stellt KI-basierten Detektor für Deepfake-Audio vor - aber wie zuverlässig kann er sein?
Manipulierte Audioaufnahmen können auf Betrug hindeuten - Deepfake Detector verspricht, solche zu erkennen. Hier sind die PCs, für die das Tool geeignet ist, sowie die Kosten dafür.
Künstlich generierte Deepfakes mittels künstlicher Intelligenz (KI) sind im Internet allgegenwärtig und tragen zu Betrug sowie politischer Desinformation bei. Der Cybersicherheitsanbieter McAfee ist nun das neueste Unternehmen, das eine Lösung anstrebt - doch diese ist nicht für alle geeignet und könnte auch keine Allround-Lösung sein.
Am Mittwoch stellte der Cybersicherheitsanbieter McAfee seinen Deepfake Detector vor - ein KI-gestütztes Tool, das Videos nach Anzeichen für von KI erzeugten Audioinhalten durchsucht. Laut Pressemitteilung überwacht das Tool automatisch den Inhalt, der auf dem PC abgespielt wird, sobald der Nutzer seine Zustimmung gibt. Findet es verändertes Audio, das von KI erzeugt wurde, warnt es den Nutzer „innerhalb weniger Sekunden“ - und das ganz ohne Einsatz externer Software oder manuelle Eingriffe seitens des Nutzers.
Veränderte Audiodateien könnten auf Deepfake-Betrug hindeuten - etwa darauf, dass die Stimmen von geliebten Menschen kopiert werden, um Menschen dazu zu bringen, gefälschte Lösegelder zu zahlen, oder dass öffentliche Persönlichkeiten nachgeahmt werden, um falsche Informationen zu verbreiten. In den Release-Notes von McAfee heißt es, dass die zunehmende Verbreitung von KI es Cyberkriminellen ermöglicht, „überzeugendere, personalisierte und von KI generierte Betrugsversuche in großem Maßstab zu erstellen“.
„Obwohl nicht aller KI-generierte Inhalt mit böswilliger Absicht erstellt wird, hilft die Fähigkeit, zu erkennen, ob ein Video echt oder gefälscht ist, den Verbrauchern, kluge und wohlüberlegte Entscheidungen zu treffen“, heißt es in der Ankündigung von McAfee.
„Der Deepfake Detector analysiert ausschließlich Audio - genauer gesagt scant er den Audioteil von Videos, die im Browser abgespielt werden. Inhalte, bei denen digitale Rechteverwaltung zum Einsatz kommt - wie beispielsweise Inhalte auf Video-Streaming-Diensten wie Netflix oder Disney+ - werden hingegen nicht gescannt“, sagte ein Sprecher von McAfee gegenüber Windows-Office.net.
Der Detektor überwacht kein Video- oder Audiomaterial, das außerhalb des PCs abgespielt wird. „Unsere Bedrohungsforschung hat ergeben, dass die meisten Deepfake-Videos KI-manipuliertes oder von KI generiertes Audio als Hauptmittel nutzen, um Zuschauer in die Irre zu führen. Die visuellen Elemente der Videos bestehen in der Regel aus sorgfältig zusammengeschnittenem, authentischem Material, das die Aufmerksamkeit der Zuschauer von der verdächtigen Botschaft ablenken soll“, fuhr der Sprecher fort.
McAfee hat den Deepfake Detector in Zusammenarbeit mit Lenovo speziell für die Copilot+-PCs entwickelt. Das bedeutet, dass er nur auf diesen Geräten verfügbar ist und künftig mindestens 10 US-Dollar pro Jahr kosten wird.
Mithilfe der Neural Processing Unit (NPU) von McAfee führen die KI-Erkennungsmodelle des Unternehmens die Inferenz - also den gesamten Prozess der Inhaltsidentifizierung - ausschließlich auf dem PC durch. Diese Art der lokalen KI-Verarbeitung schützt die Privatsphäre der Nutzer, da personenbezogene Daten nicht in die Cloud übertragen werden - ein Ansatz, den auch Apple mit Apple Intelligence verfolgt, das in diesem Herbst für seine Geräte eingeführt wird.
Natürlich muss der Detektor das Laptop des Nutzers überwachen, um zu funktionieren - doch McAfee versichert, dass dies die Privatsphäre nicht verletzt. „McAfee sammelt oder zeichnet die Audiodaten des Nutzers in keiner Weise auf; der Nutzer behält stets die Kontrolle und kann die Audioerkennung nach Belieben ein- oder ausschalten“, erklärte das Unternehmen in einer Pressemitteilung.
McAfee erklärte außerdem, dass zu den Vorteilen der Ausführung des Deepfake Detectors direkt auf dem Gerät eine schnellere Verarbeitungsgeschwindigkeit sowie eine längere Akkulaufzeit gehören.
Aber funktioniert die KI-basierte Audioerkennung wirklich?
„Man muss sich nicht mehr fragen: Ist dies eine echte Verlosung mit Prominenten? Ist dieses Investitionsangebot seriös? Hat dieser Politiker diese Worte tatsächlich gesagt?“, sagte Roma Majumder, Senior Vice President für Produkte bei McAfee, in einer Mitteilung.
Das sind hohe Erwartungen. Die Integration einer solchen Technologie - egal wie früh sie auch noch in der Entwicklung sein mag - direkt in Geräte bereitet die Verbraucher besser auf eine Zukunft vor, in der es von von KI erzeugten Inhalten wimmelt. Doch wie Berichte von Windows-Office.net zeigen, ist die Genauigkeit und Wirksamkeit der Erkennungstechnologie bisher unzuverlässig - insbesondere angesichts des rasanten Fortschritts der generativen KI.
„Die Technologie verwendet ein Modell, das anhand von fast 200.000 Beispielen trainiert wurde, und bietet Verbrauchern eine hochmoderne KI-Erkennung mit einer Genauigkeit von 96 Prozent“, erklärte der Sprecher von McAfee bezüglich des Detektors.
Neben dem Deepfake Detector hat McAfee auch das Smart AI Hub vorgestellt - eine informative Cybersecurity-Plattform für Verbraucher, die laut Ankündigung dazu dienen soll, „das Bewusstsein für Deepfakes und durch KI verursachte Betrügereien zu schärfen“. Nutzer können verdächtige Videos an das Hub senden, damit McAfee sie analysieren kann. Das Unternehmen plant, die daraus gewonnenen Erkenntnisse als Ressource der Öffentlichkeit zugänglich zu machen.
Der Deepfake-Detector ist ab sofort auf Englisch für alle neuen Lenovo Copilot+-PCs verfügbar, die über die Website von Lenovo sowie ausgewählte Händler in den USA, Australien und dem Vereinigten Königreich bestellt werden. Nach dem Kauf des PCs kann der Kunde den Detector 30 Tage lang kostenlos nutzen; danach beginnt die Gebührenstruktur bei 10 US-Dollar für das erste Jahr.
Die Funktion wird noch dieses Jahr in weiteren Ländern eingeführt.