KI findet Fehler schneller, als Menschen sie beheben können: Wie Unternehmens-Sicherheitsteams sich anpassen müssen

Es ist viel einfacher, Sicherheitslücken zu finden, als sie zu beheben. Wenn man dies der KI überlässt, können sogar neunmal so viele neue Schwachstellen entstehen wie von Entwicklern verursacht.

Wichtigste Erkenntnisse

• Die durch KI entdeckten Sicherheitsprobleme nehmen zu wie eine Flutwelle.
• Egal ob man einen PC verwendet oder ein Rechenzentrum betreibt - alle werden betroffen sein.
• Wir sind nicht bereit für das, was kommt.

Die gute Nachricht ist, dass KI Sicherheitslücken schneller als je zuvor entdeckt. Die schlechte Nachricht ist, dass KI Sicherheitslücken schneller als je zuvor entdeckt. Es ist beides: Zwar ist es großartig, dass wir all diese Fehler finden, doch sie alle zu beheben, ist eine enorme Herausforderung.

Klar, wenn man Google ist, kann man im Juni 2026 mehr Fehler in Chrome beheben als in den letzten zwei Jahren - aber die meisten Unternehmen sind kein Google. Sie verfügen schlichtweg nicht über die Ressourcen, um so viele Sicherheitslücken zu beheben.

Tatsächlich wurde sogar Apple - ja, Apple - von Berichten über AI-bedingte Fehler überhäuft. Infolgedessen teilte Apple im Juni Sicherheitsforschern mit, dass „die Anzahl der potenziell gefährlichen Softwarefehler, die Forscher an das interne Sicherheitsteam einreichen dürfen, begrenzt wurde. Falls Sie eine wirklich schwerwiegende Sicherheitslücke entdecken, aber die Grenze bereits überschritten haben, ist das bedauerlich - versuchen Sie es im nächsten Monat erneut.“

Daraus ergibt sich das Problem: Die durch KI unterstützte Entdeckung von Schwachstellen beschleunigt die Zahl der Fehlerberichte - doch das eigentliche Problem ist die zunehmende Diskrepanz zwischen dem, was Maschinen aufdecken können, und dem, was Menschen in der Praxis noch bewältigen können. Infolgedessen lastet eine immer größere Bürde auf Entwicklern, Sicherheitsteams sowie Unternehmen, die versuchen, wirklich ausnutzbare Sicherheitslücken von den von Maschinen generierten „Fehlalarmen“ zu unterscheiden.

Es sind jedoch nicht nur Entwickler, die Probleme haben. Systemadministratoren, CISOs und Endnutzer sind alle damit beschäftigt, mit den ständig erscheinenden Patches Schritt zu halten.

Die Flutwelle der KI-Sicherheit

Der alte Sicherheits-Workflow ging davon aus, dass fehlerhafte Stellen von hohem Risiko in relativ überschaubarer Anzahl auftreten würden. Man schaute sich den Common Vulnerabilities and Exposures (CVE)-Wert an und patchte unmittelbar die wirklich kritischen Schwachstellen. Zudem hoffte man, dass keine Zero-Day-Schwachstelle auftreten und den Tag ruinieren würde. Das war früher so. Heute ist es anders.

Künstliche Intelligenz hat diese Annahme widerlegt, indem sie es kostengünstig ermöglicht, große Mengen an Fehlern zu finden. Obwohl Open-Source-Programme die meiste Aufmerksamkeit erhalten haben, handelt es sich dabei keineswegs um ein Problem, das spezifisch mit Open Source zusammenhängt. Beispielsweise veröffentlichte Microsoft am „Patch Tuesday“ im Juli 2026 insgesamt 570 Patches - darunter drei für Zero-Day-Lücken. Damit wurde ein Rekord aufgestellt; ich bin mir sicher, dass dieser noch vor Ende des Jahres gebrochen wird.

Warum? Nicht weil Windows unsicherer wäre als je zuvor. Sondern weil - wie Microsoft im Mai erklärte - „KI den Sicherheitsteams dabei hilft, mehr Probleme zu entdecken; Kunden werden daher in jedem Sicherheitsupdate eine größere Anzahl an Sicherheitsaktualisierungen erhalten.“ Diese Zahlen werden nur noch weiter steigen.

Wie Dan Lorenc, Mitbegründer und CEO des Sicherheitsunternehmens Chainguard, kürzlich in einem Webinar sagte, „entdeckt KI mittlerweile Schwachstellen in der von ihr selbst geschriebenen sowie in der verwendeten Software in einem Tempo, das die Fähigkeit der Verteidiger, Patches und Updates bereitzustellen sowie die Schwachstellen zu beheben, bei weitem übersteigt.“

Er stellte fest, dass es immer einfacher sei, Schwachstellen zu finden als sie zu beheben - doch die KI habe „einen weiteren riesigen Eimer Benzin ins Feuer gegossen, bevor sie einen besseren Feuerlöscher erfunden hat.“

Was die Handhabung besonders schwierig macht, ist die Tatsache, dass nicht alle dieser Probleme gleich sind. Nur eine kleine Anzahl davon ist aktiv, dringend und wird gezielt ausgenutzt, während viele andere lediglich zu den alltäglichen Wartungsaufgaben gehören. Die Sicherheitsteams müssen die Probleme priorisieren - wobei allein die hohe Anzahl dieser Probleme ein Risikofaktor darstellt.

Zum Beispiel empfahl ich früher Windows-Nutzern, mit dem Installieren von Updates zu warten - schließlich führten zahlreiche Updates zu Problemen, wie beispielsweise das Januar-2026-Update. Heutzutage, da Zero-Day-Angriffe in immer größerer Zahl auftreten, bleibt einem wohl keine andere Wahl, als die Zähne zusammenzubeißen, die Updates zu installieren und zu hoffen, dass diese einen nicht in Schwierigkeiten bringen.

Ob zum Guten oder zum Schlechten - wie Greg Kroah-Hartman, Maintainer des stabilen Linux-Kernels, sagte: „Wenn Sie nicht den neuesten stabilen/langfristig unterstützten Kernel verwenden, ist Ihr System unsicher.“ Heutzutage gilt dasselbe für Windows, macOS und im Grunde für fast alle Programme.

Nicht nur ein Linux-Problem

Einige von Ihnen denken vielleicht, dass dies vor allem ein Problem für Linux und Open-Source-Software ist. Das ist nicht der Fall. Der Linux-Kernel ist lediglich das sichtbarste Beispiel - schließlich sind seine Maintainer öffentlich bekannt und haben klare Ansichten; außerdem sind sie ohnehin bereits stark überlastet. Wie schlimm ist die Situation? Im Juli wurden innerhalb von zwei Tagen 432 CVEs im Linux-Kernel gemeldet.

Dasselbe Phänomen lässt sich bei proprietärer Software beobachten; die Unternehmen erzählen uns einfach nichts davon. Man erkennt es daran, wie sehr ihre Patches und Systeme in letzter Zeit gewachsen sind. Zwar fügt Microsoft gewiss mehr KI-Funktionen zu Windows hinzu, doch ich vermute stark, dass ein großer Teil der Updates dazu dient, potenzielle Sicherheitslücken im Zusammenhang mit KI zu schließen.

Zum Beispiel macht die Sicherheitslücke im Chrome-Extension „HermeticReader“ von Adobe sensible Daten aus WhatsApp Web öffentlich - und das bereits durch das bloße Besuchen einer bösartigen Webseite. Diese Webseiten sehen genauso aus wie jede andere Webseite; doch sobald man sie aufruft, wird ein in der Erweiterung vorhandenes Programm aktiviert. Dieses Programm greift anschließend auf WhatsApp zu und holt sich die Chat-Liste, die Kontaktnamen, Nachrichten, den Profilnamen sowie den Inhalt des gerade geöffneten Gesprächs - im Grunde also fast alles.

Der Angriff wurde von einer KI entwickelt, die drei verschiedene Schwachstellen miteinander verknüpfte; dadurch wurde es möglich, „von jeder Webseite aus ohne Authentifizierung, in nur einem Schritt und ohne zusätzliche Interaktion Daten in den Speicher der Erweiterung zu schreiben“. Um das Ganze noch schlimmer zu machen, automatisierte ein Betrüger diesen Angriff anschließend mithilfe des DeepSeek-LLM über das Hermes-Agent-Framework.

Das Gute an dieser potenziellen Katastrophe ist, dass Adobe schnell eine aktualisierte Version der Erweiterung veröffentlicht hat, die die Sicherheitslücke schloss, bevor größerer Schaden entstand.

Wir werden nicht immer so viel Glück haben. Wie Jim Zemlin, CEO der Linux Foundation, auf dem North America Open Source Summit sagte: „Heute ist die durchschnittliche Zeit bis zur Ausnutzung einer Sicherheitslücke von 63 Tagen auf -7 Tage gesunken. Die Ausnutzung erfolgt bereits bevor ein Patch veröffentlicht wird.“

Ist das großartig oder was?

Die Triage-Steuer

Gleichzeitig besteht ein weiterer Nachteil von von KI erstellten Fehlerberichten nicht nur darin, dass es zu falschen Positivmeldungen kommt; es ist auch der Aufwand, der entsteht, um zu beweisen, dass diese Berichte falsch sind. Die Entwickler müssen sie weiterhin lesen, nachvollziehen und entscheiden, ob es sich um Doppelungen, Fehlinterpretationen oder tatsächliche Sicherheitslücken handelt - also um Probleme, die durch eine fehlerhafte Formulierung verborgen bleiben. Das ist eine Art „Aufmerksamkeitssteuer“ für Experten - und sie trifft insbesondere kleine Teams am härtesten.

Dieses Problem betrifft nicht nur Systemadministratoren. Es ist auch ein Grund zur Sorge für Sie, die Sie zu Hause am PC sitzen, sowie für CISOs der Fortune-500-Unternehmen, die entscheiden müssen, ob sie ihre Systeme patchen sollen oder nicht - das ist die Frage. Möchten Sie alle paar Tage Ihr System patchen und neu starten? Können Sie sich das leisten? Oder können Sie es sich leisten, es nicht zu tun?

Der Tag, an dem man sich auf ein stabiles Programm verlassen konnte, das wochen- oder sogar jahrelang lief, ist vorbei. Das Tempo der Patches hat zugenommen - und wird in absehbarer Zeit nicht nachlassen. Schweregradbewertungen helfen wenig, wenn alle in einem Meer aus „hohen“ und „kritischen“ Problemen untergehen.

Wie Unternehmen es spüren

Unternehmen stecken, genau wie Odysseus, zwischen Scylla und Charybdis.

Sie wünschen sich eine schnellere Feererkennung - brauchen aber auch weniger „Rauschen“ in den Ergebnissen. KI kann dazu beitragen, tatsächliche Fehler früher aufzudecken; doch dieselben Werkzeuge können auch Berichte generieren, die zwar autoritativ wirken und eine Überprüfung erfordern, aber keinen wirklichen Mehrwert bieten. Dadurch entsteht ein Teufelskreis: Sicherheitsteams verbringen mehr Zeit damit, diese Berichte zu überprüfen, anstatt die zugrundeliegenden Probleme zu beheben. Was soll ein Unternehmen tun?

Nun fragen Sie sich vielleicht: „Warum kann KI diese Fehler nicht beheben?“ Die Antwort ist einfach: Sie kann es nicht. Es ist viel einfacher, Sicherheitslücken zu finden, als sie zu beheben. Eine wissenschaftliche Studie zu mehr als 20.000 von KI behobenen Problemen ergab, dass große Sprachmodelle „fast neunmal so viele neue Schwachstellen verursachen wie menschliche Entwickler - wobei viele dieser Schwachstellen einzigartige Muster aufweisen, die im Code der Entwickler nicht vorkommen.“ Kurz gesagt: Die „Heilung“ kann schlimmer sein als die Krankheit selbst.

Selbst die besten von KI gesteuerten Programme zur Fehlerbehebung - wie beispielsweise PatchitPy für Python-Code - erreichen immerhin nur eine Erfolgsrate von 80 Prozent bei der Reparatur von Fehlern. Das ist zwar gut, aber noch lange nicht perfekt. Um das Ganze noch zu verschlimmern: Einige Entwickler haben festgestellt, dass nach „mehreren Durchgängen der KI-gestützten Fehlerbehebung“ die Anzahl der kritischen Sicherheitslücken sogar zunimmt - anstatt abzunehmen.

Warum ist das so schwierig? Ein Hauptgrund dafür ist laut Ben Hawkes, einem Experten für Computersicherheit und ehemaligen Leiter von Googles Project Zero, dass „es schwierig ist, zu erfassen, dass ein Fehler in einer bestimmten Umgebung äußerst schwerwiegend sein kann, in einer anderen eher unwichtig - und dass derselbe Fehler all diese Eigenschaften gleichzeitig haben kann. Die Behebung von Sicherheitslücken ist eben schwierig.“ Da hat er recht.

Was kann man also dagegen tun? Google hat einige Vorschläge. Diese lassen sich auf Folgendes reduzieren:

• Begrenzter Umfang: Bitten Sie das Modell um minimale, gezielte Änderungen (z. B. „übernehmen Sie diese Korrektur aus dem Upstream-Code“ oder „aktualisieren Sie diese Abhängigkeit auf Version X“) anstatt nach „die Sicherheitslücke beseitigen“.

• Trennung von Behebung und Verifizierung: Behandeln Sie die Verifizierung als eigenen Schritt. Das bedeutet, nach dem Anwenden des Patches erneut Scanner, Fuzzer sowie gezielte Tests für den jeweiligen CVE durchzuführen - anstatt sich dabei auf „Kompilierung und erfolgreiche Tests“ als Beweis für die Sicherheit zu verlassen.

• Menschliche Überprüfung bei komplexen Änderungen: Nutzen Sie KI als Entwurfsgenerator oder Suchassistenten - doch lassen Sie menschliche Ingenieure die Änderungen auf Design-Ebene, Mehrdateiumstrukturierungen sowie alles, was die Authentifizierung, Autorisierung oder Datenverarbeitung betrifft, übernehmen.

Es besteht auch ein Risiko für den Ruf eines Unternehmens. Wenn ein Unternehmen Berichte über Sicherheitslücken zu ignorieren scheint, wirkt es nachlässig. Wenn es hingegen jeden maschinenerzeugten Bericht als dringend einstuft, verschwendet es die Zeit seiner Mitarbeiter und verzögert die eigentlichen Behebungen der Probleme. Die praktische Folge ist ein zunehmender Bedarf an leistungsfähigeren Sicherheitsteams, strengeren Nachweisanforderungen sowie einer besseren Nutzung von Indikatoren zur Ermittlung der Ausnutzbarkeit von Schwachstellen - anstatt sich allein auf die Anzahl der Berichte zu verlassen.

Bist du darauf vorbereitet? Ich bezweifle es.

Unternehmen geben an, dass sie IT-Sicherheitsexperten suchen - doch sie stellen nicht so viele Mitarbeiter ein wie im Jahr 2022. Noch besorgniserregender ist, dass „ISC2 mittlerweile Budgetbeschränkungen als Hauptgrund für Personalmangel einstuft; zum ersten Mal hat dieser Faktor den ‚Mangel an qualifizierten Fachkräften‘ als Hauptursache verdrängt (ISC2 2024). Diese Veränderung ist bedeutsam: Sie bedeutet, dass das Problem zunehmend ein Problem der Führung und der Investitionen ist - und nicht ein Problem bezüglich des Angebots an Fachkräften. Daten von ISACA bestätigen dies: Auch wenn auf dem Markt qualifizierte Bewerber verfügbar sind, bleiben die Teams weiterhin unterbesetzt.“

Das wird nicht gut ausgehen.

Was ändert sich als Nächstes?

Die nächste Phase bei der Bewältigung dieses Problems wird wohl eher prozedural als technisch sein. Organisationen werden dringend strengere Priorisierungsregeln, klarere Offenlegungsrichtlinien sowie eine verbesserte Automatisierung benötigen, um Berichte vor der Bearbeitung durch Menschen zu deduplizieren und zu bewerten. Andernfalls wird die KI sowohl die Anzahl der entdeckten Informationen als auch die Menge des damit verbundenen „Unsinns“ weiter erhöhen.

Die wichtigste Lektion, die man aus den Erfahrungen mit Linux, Microsoft und Adobe ziehen kann, ist, dass es sich mittlerweile um ein systemweites Betriebsproblem handelt. KI findet nicht nur mehr Fehler - sie verändert auch die Wirtschaftlichkeit des Umgangs mit Sicherheitslücken. Diese Veränderung wirkt sich auf alle Ebenen der Softwareversorgung und -unterstützung aus.

Wir müssen diese Probleme ernst nehmen - sonst werden wir in den kommenden Monaten IT-Sicherheitsprobleme erleben, die dazu führen, dass frühere schwerwiegende Vorfälle - vom Morris-Wurm bis hin zum Ransomware-Angriff auf Marks and Spencer im Wert von 300 Millionen Pfund - wie kleine Lappalien erscheinen lassen.