KI-Agenten sind großartige Teamkollegen - aber lassen Sie sie nicht allein programmieren. Hier ist der Grund.
Die Vorstellung einer vollständig vom Agenten gesteuerten Softwareentwicklung ‚übersehen die tiefgreifend menschliche und vielschichtige Natur der Softwareentwicklung.‘
Agentenbasierte KI mag durchaus attraktive Produktivitätsvorteile bieten, doch bei der Bewältigung der anspruchsvollen Aufgaben im täglichen Betrieb sowie bei der Technologieentwicklung stößt sie an ihre Grenzen. Dennoch erkennen Technologieverantwortliche und Befürworter große Vorteile darin, solche Agenten in vielen wichtigen Geschäftsbereichen einzusetzen.
Ende letzten Jahres veröffentlichten Forscher der Carnegie Mellon University Details zur Leistung eines künstlich geschaffenen Unternehmens, das ausschließlich von KI-Agenten gesteuert wird. Das Experiment läuft weiter - bislang war die Leistung des Unternehmens, das den Namen TheAgentCompany trägt, jedoch unbefriedigend. Dies deutet darauf hin, dass die KI-Agenten noch nicht bereit sind, täglich vollständig eigenständig zu arbeiten.
Die Agenten, die sowohl von geschlossenen, API-basierten als auch von „offenen Gewichten“-Sprachmodellen gesteuert wurden, waren in der Lage, maximal 30 Prozent ihrer Aufgaben autonom zu erledigen - mehr aber auch nicht.
„Dies zeichnet ein differenziertes Bild bezüglich der Automatisierung von Aufgaben mithilfe von LM-Agenten: Ein großer Teil der einfacheren Aufgaben könnte autonom gelöst werden, doch schwierigere Aufgaben mit langfristigem Horizont bleiben nach wie vor außer Reichweite der aktuellen Systeme“, schrieben die Forscher.
„Obwohl KI-Agenten gelegentlich einfache, isolierte Aufgaben gut erledigten, zeigt die Studie deutlich, dass sie bisher nicht in der Lage sind, die Art von komplexen, dynamischen Aufgaben zu bewältigen, in denen Menschen hervorragen“, sagte Dusan Simic, CEO und Mitbegründer von 2immersive4u, in einem LinkedIn-Beitrag. „Die Forscher kamen zu dem Schluss, dass die heutige KI am besten als eine hochentwickelte Erweiterung der Vorhersage-Textfunktion beschrieben werden kann - sie ist gut im Mustererkennen, verfügt aber nicht über echhes Verständnis, Anpassungsfähigkeit sowie die Fähigkeit, Probleme eigenständig zu lösen.“
Die Softwareentwicklung gehört offensichtlich in die Kategorie der komplexen, dynamischen Aufgaben. Sind KI-Agenten tatsächlich in der Lage, solche Aufgaben vollständiger zu übernehmen? Obwohl Branchenbeobachter bisher gemischte Meinungen bezüglich ihrer Fähigkeiten haben, sind sie hinsichtlich des Potenzials optimistisch.
„In den letzten Monaten gab es eine enorme Verlagerung hin zur Nutzung von KI-Tools für das Programmieren sowie in unserer täglichen Arbeit“, sagte Ashwin Das Gururaja, Senior Engineering Manager bei Adobe. „KI-Agenten, Code-Assistenten und andere Tools verändern die Art und Weise, wie wir unsere täglichen Aufgaben erledigen. Agentenbasierte KI-Tools eignen sich hervorragend für das Prototyping und das Brainstorming - ich sehe, dass erfahrene Softwareentwickler sie nutzen, um ihre Entwicklungszyklen zu beschleunigen.“
Doch viele Aspekte des Entwicklungs- und Deploymentsprozesses liegen nach wie vor weit außerhalb der Reichweite von Agenten, fuhr er fort. „KI-Agenten stellen eine Abstraktionsschicht über komplexen Softwarecode dar. Dennoch sind qualifizierte Ingenieure erforderlich, um das Ergebnis zu überprüfen, zu steuern, zu optimieren und zu verfeinern. Zwar können viele Nicht-Ingenieure KI-Agenten nutzen, um einfache Probleme zu lösen oder schnell Prototypen zu erstellen - doch bei auftretenden Fehlern haben sie oft Schwierigkeiten, diese zu beheben - insbesondere wenn ihnen das Verständnis für den zugrundeliegenden Code fehlt, den die KI ja abstrahiert.“
Die Vorstellung einer vollständig vom Agenten gesteuerten Softwareentwicklung „übersehe die tief menschliche und vielschichtige Natur der Softwareentwicklung“, stimmte Keith Kuchler, Chief Development Officer bei Sumo Logic, zu. „Zwar kann KI zweifellos bestimmte repetitive Aufgaben automatisieren und sogar maßgeblich zur Codeerstellung beitragen - doch die entscheidenden Aspekte wie das Verständnis der Nutzerbedürfnisse, das Entwerfen komplexer Systeme, die treffsichere Entscheidungsfindung im Design sowie die Gewährleistung von Sicherheit und Zuverlässigkeit der Software bleiben weiterhin in der Hand qualifizierter Ingenieure.“
„Im Gegenteil: KI-Agenten werden sie von repetitiven, niedrigrangigen Aufgaben befreien, sodass sie sich auf höherwertiges, strategisches kritisches Denken, Innovation und Problemlösung konzentrieren können,“ fügte er hinzu.
„Anstatt dass KI-Agenten eigenständig Software entwickeln, glaube ich, dass sie eher zu einer Art neuem Teammitglied werden“, sagte Spencer Kimball, CEO bei Cockroach Labs. „Man wird erwarten, dass man intelligente Agenten als Teil des Entwicklungsworkflows verwaltet - indem man die richtigen Fragen stellt, den richtigen Kontext bereitstellt und die Ergebnisse kritisch bewertet. Das bedeutet einen Wandel in den erforderlichen Fähigkeiten - keine vollständige Ersetzung der menschlichen Rolle.“
Letztendlich bieten KI-Agenten „das Potenzial, die Arbeit von Ingenieuren erheblich zu erleichtern - indem sie beispielsweise die Zeit für die Problemlösung verkürzen, die Einstiegshürden für bestimmte Aufgaben senken und dazu beitragen, dass menschliche Zeit und Kreativität dort am sinnvollsten eingesetzt werden“, fügte er hinzu. „Das bedeutet, dass Ingenieure sich stärker auf architektonisches Denken, Systemdesign sowie die Lösung schwierigerer und unklarerer Probleme konzentrieren können.“
Um sich auf diese neue Umgebung vorzubereiten, „sollten Software-Profis damit beginnen, diese Tools täglich zu verwenden und sie mit einer Haltung des ‚Vertrauen, aber Überprüfen‘ auszuprobieren“, riet Das Gururaja. „Sie sollten außerdem aktiv nach neuen Entwicklungen in diesem Bereich Ausschau halten.“
Als Beispiel nannte er: „Anthropic führte im November 2024 MCP ein, um KI-Assistenten mit anderen Datenquellen und Tools zu verknüpfen sowie verschiedene Kontextquellen einzubinden. Mittlerweile wird MCP weithin akzeptiert - in unseren Teams herrscht regelrechter Eifer, Workflows zu entwickeln, die MCP nutzen können, sowie unsere Dienste so zu gestalten, dass sie Daten an MCP weitergeben. Die Ingenieure müssen sich in kürzester Zeit mit diesen Neuerungen vertraut machen - was in der Vergangenheit nie der Fall war. Die Softwareentwicklung muss ständig lernen und sich weiterbilden, um mit dem Fortschritt Schritt zu halten.“
Möchten Sie mehr Geschichten über KI lesen? Abonnieren Sie Innovation, unseren wöchentlichen Newsletter.