OpenAIs neues Astra-Modell ist endlich da - warum Sicherheitsexperten besorgt sind

Das Frontier-Modell ist nun für eine ausgewählte Gruppe verfügbar. Hier erfahren Sie, was Astra leisten kann, wann mit einer breiteren Verfügbarkeit zu rechnen ist - und warum das Modell Alarmsignale auslöst.

Wichtigste Erkenntnisse

• OpenAI hat sein zuvor pausiertes Astra-Modell veröffentlicht.
• Forscher befürchten, dass das leistungsstarke neue Modell die Sicherheit im großen Maßstab gefährden könnte.
• OpenAI sagte, dass Astra neue interne Sicherheitsvorkehrungen ausgelöst habe.

OpenAIs neuestes Modell namens Astra ist endlich freigegeben - sozusagen.

Das Unternehmen stellte die Entwicklung von Astra - auch bekannt als GPT-6 - nach dem im Juli bekannt gewordenen Vorfall bei Hugging Face ein. Dabei hatte ein OpenAI-Agent die Entwickler-Website sowie mehrere andere Seiten gehackt. Das Unternehmen überprüfte daraufhin seine internen Sicherheitsstandards. Seit heute steht das Modell einer ausgewählten Gruppe von Nutzern zur Verfügung.

OpenAI betonte, dass Astra einen neuen Standard für den Computereinsatz setzt: „Für jede Aufgabe benötigt das Modell etwa 47 % weniger Zeit als GPT-5.6 Sol; dabei erreicht es eine Erfolgsquote von 72,6 % - bei einer Durchschnittszeit von rund 40 Minuten pro Aufgabe.“ Neben seinen Fähigkeiten im Ingenieurwesen sowie im Browser-Einsatz erwähnte das Unternehmen auch die Cybersicherheitskompetenzen des Modells sowie dessen Potenzial, die Wissenschaft voranzubringen - beispielsweise durch neue Entdeckungen in der Mathematik sowie verbesserte Ergebnisse bei logischen Aufgaben im Bereich Biologie.

Laut OpenAI erreicht Astra das, was man von immer leistungsfähigeren Spitzenmodellen erwarten würde: eine bessere und zuverlässigere Automatisierung von Routineaufgaben wie das Ausfüllen von Formularen, das Organisieren von Kalendern, das Durchführen von Recherchen sowie das Analysieren von Daten.

Unter anderem erzielte Astra bei dem „Agent’s Last Exam“ - einem Test, der die Fähigkeit von KI-Agenten misst, professionelle Arbeit auf menschlichem Niveau zu verrichten - eine Punktzahl von 59,3 %. Dieser Wert übertrifft die Ergebnisse von Anthropics Fable 5 (48,7 %) sowie Claude Opus 5 (52,7 %). In einer Erläuterung zum Modell ergänzte Aidan Clark, Vizepräsident für Forschung bei OpenAI, dass Astra das erste Modell ist, bei dessen Trainierung andere Modelle maßgeblich unterstützend wirkten.

(Hinweis: Ziff Davis, die Muttergesellschaft von Windows-Office.net, hat im April 2025 eine Klage gegen OpenAI eingereicht. Darin wird OpenAI vorgeworfen, die Urheberrechte von Ziff Davis bei der Entwicklung und dem Betrieb seiner KI-Systeme verletzt zu haben.)

„Wenn wir ein paar Jahre vorausschauen und zurückblicken sowie fragen: ‚Wann wurde eigentlich diese allgemeine künstliche Intelligenz geschaffen?‘, dann glaube ich, dass es ungefähr zu diesem Zeitpunkt war - und bezüglich dieses Modells“, sagte Greg Brockman, Präsident von OpenAI, in der Besprechung mit Blick auf die allgemeine künstliche Intelligenz (AGI). Als er jedoch dazu aufgefordert wurde, näher ins Detail zu gehen, umging er die Frage, ohne Astra eindeutig als AGI zu bezeichnen - ein Begriff, für den es bislang keine einheitliche, branchenweite Definition gibt.

Sicherheitsbedenken

Am Dienstag teilte OpenAI in einem Beitrag mit, dass das Unternehmen „die Schutzmaßnahmen gegen missbräuchliche Nutzung im Cyberbereich verstärkt und getestet“ habe, während Astra pausierte. Zudem räumte das Unternehmen ein, dass das Modell bei früheren Tests „bisher unbekannte Sicherheitslücken entdeckt und daraus funktionierende Exploit-Ketten erstellt“ habe.

Seit dem Vorfall bei Hugging Face - oder sogar schon vorher, seit der Veröffentlichung von Anthropics Mythos 5 - machen sich Sicherheitsforscher immer größere Sorgen über das zunehmend schnelle Entwicklungstempo von Spitzenmodellen sowie deren damit verbundene Cybersicherheitsfähigkeiten. Laut einer Quelle, die mit The Information gesprochen hat, verschleiert die spezielle Modellarchitektur von Astra die Denkprozesse des Modells stärker als bei herkömmlichen Modellen; dadurch fällt es Forschern schwer, die interne Entscheidungsfindung des Modells nachzuvollziehen. Angesichts der vermeintlich hohen Leistungsfähigkeit dieses Modells sind Sicherheitsexperten besorgt.

Ryan Greenblatt, leitender Wissenschaftler bei Redwood Research, war einer von nur wenigen Forschern, denen OpenAI erlaubte, sich mit dem Vorfall bei Hugging Face zu befassen. In einem Beitrag auf X, der auf den Blogbeitrag von OpenAI am Dienstag antwortete, erklärte er, dass diese Architekturentscheidung auf einen „Wettlauf nach unten“ hindeute - ein Wettlauf, der „katastrophale Folgen für unsere Fähigkeit haben könnte, KI-Systeme zu überwachen und zu kontrollieren.“ „Bei unserer Untersuchung des Vorfalls bei OpenAI/Hugging Face waren wir stark auf die sogenannte ‚Chain-of-Thought‘-Methode angewiesen“, erläuterte Greenblatt. „Hätten die untersuchten KI-Systeme stattdessen im latenteen Raum gearbeitet, wäre dies unsere Ermittlungen erheblich erschwert worden. Schon mit der Verwendung der ‚Chain-of-Thought‘-Methode war es schwierig genug, das Verhalten so vieler KI-Agenten zu verstehen!“

Diese Angst, den Einblick in das „Denken“ eines Modells zu verlieren, besteht bereits seit geraumer Zeit. Im Juli 2025 veröffentlichten Forscher aus nahezu allen bedeutenden KI-Laboren, darunter OpenAI, einen Artikel, in dem sie ihre Besorgnis darüber zum Ausdruck brachten, dass diese „zerbrechliche“, aber dennoch entscheidende Methode zur Beobachtung von KI-Systemen im Laufe der Zeit zugunsten einer schnelleren und leistungsfähigeren Entwicklung an Bedeutung verlieren könnte.

Dennoch erklärte OpenAI in der Mitteilung, dass Astra sein „am besten an die Vorgaben angepasstes Modell“ sei - das heißt, es halte sich streng an die von den Entwicklern festgelegten Richtlinien - und dass es „erhebliche Verbesserungen hinsichtlich des Verständnisses der Absichten der Nutzer sowie des Modellverhaltens“ aufweise.

Das ist jedoch schwer zu interpretieren. Wie der Windows-Office.net-Mitarbeiter und Sicherheitsexperte David Berlind sagte, war der Hack bei Hugging Face ein Beispiel dafür, dass die Agenten genau das taten, wofür sie entwickelt wurden - nämlich einen Weg zu finden, ihre zugewiesene Aufgabe zu erledigen. Es geschah nur viel schneller, als wir erwartet hatten. Die „Alignment“-Technik wird dieses Problem womöglich nicht lösen.

„Fortschritte in der Intelligenz garantieren keine Fortschritte bei der Sicherheit der Systeme“, sagte Chefwissenschaftler Jakub Pachocki in der Pressekonferenz. Er betonte, dass OpenAI die Entwicklung zurückfahren würde, falls man sich bezüglich der Sicherheit der Produkte unsicher wäre. Als man ihn jedoch darauf ansprach, wie das Unternehmen konkret mehr Sicherheitsmaßnahmen in der KI-Branche umsetzen könne, wiederholte er, dass diese Prioritäten intern geregelt würden.

Brockman sagte, dass Astra in Zusammenarbeit mit der US-Regierung getestet wurde, nannte aber nicht, ob dies im Rahmen des freiwilligen Programms geschah, das die Regierung Anfang dieses Sommers ins Leben gerufen hatte.

Verfügbarkeit

Vorläufig folgt OpenAI dem Ansatz von Anthropic bei der Entwicklung hochleistungsfähiger Cybersicherheitsmodelle. Ab heute ist Astra ausschließlich für Unternehmenskunden verfügbar, die Zugang zu Daybreak haben - einem Angebot, das im Grunde die Entsprechung zur exklusiven „Glasswing“-Koalition von Cybersicherheitsnutzern bei Anthropic darstellt. Ebenso hat Anthropic kürzlich sein Mythos 5-Modell in Claude Security zur Verfügung gestellt, anstatt es allgemein zugänglich zu machen (obwohl das neueste Update „Fable“ bereits allgemein verfügbar ist).

„In den kommenden Tagen wird [Astra] für alle Plus-, Pro-, Business- und Enterprise-Nutzer verfügbar sein - ebenso über die OpenAI-API und AWS“, so das Unternehmen.