OpenAI veröffentlicht Sicherheitsupdates nach Hinweisen von Whistleblowern und Forderungen von Abgeordneten
In einem X-Thread erklärt der KI-Gigant, ‚wie wir die Sicherheit in unserer Arbeit priorisieren.‘ Das ist neu.
Die Sicherheit ist eine der größten Bedenken im Zusammenhang mit dem raschen Wachstum generativer Künstliche-Intelligenz-Modelle. Eine siebenseitige Beschwerde, die von Whistleblowern eingereicht und von der Washington Post erhalten wurde und sich auf OpenAIs Sicherheitspraktiken bezieht, hat diese Bedenken nur noch verstärkt. Infolgedessen teilt OpenAI nun der Öffentlichkeit aktuelle Informationen zu seinen Sicherheitsmaßnahmen mit.
Am Dienstag nutzte OpenAI X - früher Twitter - um eine Zusammenfassung der Neuigkeiten zu dem Thema „Wie wir bei unserer Arbeit die Sicherheit in den Vordergrund stellen“ zu veröffentlichen. Der Beitrag enthielt Highlights zu kürzlich gestarteten Initiativen sowie Aktualisierungen zu laufenden Projekten.
Dafür zu sorgen, dass KI allen zugutekommt, beginnt damit, KI zu entwickeln, die nützlich und sicher ist. Wir möchten Ihnen einige Neuigkeiten darüber mitteilen, wie wir der Sicherheit in unserer Arbeit Priorität einräumen.
OpenAI begann damit, seinen „Preparedness Framework“ vorzustellen - eine Richtlinie, die im Dezember erstmals in einer Beta-Version veröffentlicht wurde. Der Framework umfasst die verschiedenen Vorsichtsmaßnahmen, die OpenAI ergreift, um die Sicherheit seiner fortschrittlichen KI-Modelle zu gewährleisten. Dazu gehören beispielsweise die Bewertung der Modelle anhand verschiedener Kriterien sowie das Verbot der Veröffentlichung eines neuen Modells, falls dieses eine „mittlere“ Risikoschwelle überschreitet.
OpenAI teilte außerdem mit, dass es aktiv an der Entwicklung von „Ebenen“ arbeite, die OpenAI sowie seine Stakeholder dabei unterstützen sollen, den Fortschritt der KI zu kategorisieren und zu verfolgen. Weitere Details dazu werde das Unternehmen „bald“ bekanntgeben.
OpenAI gab außerdem Updates bezüglich seines Ausschusses für Sicherheit und Schutz bekannt. Dieser wurde im Mai vom Vorstand von OpenAI ins Leben gerufen, um eine weitere Schutzschicht für die Unternehmensaktivitäten zu gewährleisten. Die Überprüfung durch den Ausschuss, dem technische sowie politische Experten angehören, ist mittlerweile im Gange. Nach Abschluss wird OpenAI weitere geplante Maßnahmen bekanntgeben.
Schließlich wies OpenAI auf seine Whistleblower-Richtlinie hin, die laut Unternehmen „die Rechte der Mitarbeiter auf geschützte Hinweise schützt“. Um die Diskussionen über die Technologie zu fördern, änderte das Unternehmen außerdem sein Austrittsverfahren für Mitarbeiter und streichte dabei die Klauseln zum Verzicht auf negative Äußerungen.
OpenAI teilte diese Updates nur einen Tag nachdem US-Gesetzgeber verlangt hatten, dass OpenAI Daten zu seinen Sicherheitspraktiken preisgibt - und zwar im Anschluss an den Whistleblower-Bericht. Zu den wichtigsten Punkten des Berichts gehörte, dass OpenAI es Mitarbeitern untersagte, die zuständigen Behörden über technologische Risiken zu informieren, sowie dass die Mitarbeiter auf ihre gesetzlichen Rechte auf Entschädigungen als Whistleblower verzichten mussten. Beides wurde in den X-Beiträgen angesprochen.