Können Unternehmens-Identitäten die Schwächen von Gen AI beheben? Dieses IAM-Start-up glaubt daran
Die Welt des Identity- und Access-Managements (IAM) versucht, das Vertrauensproblem bei generativer KI in den Griff zu bekommen.
KI-Forscher finden zunehmend Möglichkeiten, die Sicherheit von generativen KI-Programmen wie ChatGPT zu umgehen. Es war daher nur eine Frage der Zeit, bis jemand dieselben Cybersicherheitstechniken, die zur Überprüfung von Nutzern eingesetzt werden, auch zur Überprüfung von Datenquellen anwenden würde.
Am Mittwoch stellte das Startup IndyKite aus San Francisco seinen Ansatz vor, um zu überprüfen, welche Daten in die Generative KI als Grundlage für deren Vorhersagen einfließen.
„Die Software hilft dabei, die inhärente Zuverlässigkeit von genutzten Daten in jedem Geschäfts- oder Analysemodell zu gewährleisten, indem sie einen identitätszentrierten Ansatz verfolgt, bei dem Vertrauen an erster Stelle steht“, sagte IndyKite.
Die dreijährige IndyKite verfügt über die Expertise im Bereich der Identitätsverwaltung im Cybersecurity-Bereich - ein Gebiet, das vor allem mit Okta assoziiert wird. Offiziell wird dieser Bereich als „Identitäts- und Zugangsverwaltung“ oder IAM bezeichnet.
In den letzten Jahren hat sich das Feld der IAM-Technologien erweitert - sie werden nun auch dazu eingesetzt, Herausforderungen zu bewältigen, die über die Absicherung von Unternehmensnetzwerken und -anwendungen hinausgehen. So hat Google beispielsweise Patente eingereicht, die die Anwendung von IAM-Technologien im Kontext von Web 3 beschreiben - also bei dezentralen Systemen auf Blockchain-Basis, die alles von dem Internet der Dinge bis hin zu Kryptowährungen steuern. Diese Technologie soll den Zugriff auf sensible Daten wie die medizinischen Unterlagen von Verbrauchern kontrollieren, ohne dass diese Daten von einer Datenbank in eine andere kopiert werden müssen.
Obwohl die Details zum IndyKite-System bisher begrenzt sind, ist es leicht nachvollziehbar, wie man den Zugang zu Verbraucherdaten über Identitätsnachweise auf den Zugang zu Datenquellen für generative KI erweitern kann.
Generative KI wie OpenAI’s ChatGPT steht im Zentrum von Kontroversen - und zwar aufgrund der Art und Weise, wie das Programm mit riesigen Datenmengen trainiert wird; dabei werden mehrere hundert Gigabyte an Daten verwendet.
Die Datensätze sind Gegenstand mehrerer Klagen von Parteien einschließlich der New York Times, die eine Verletzung des Urheberrechts geltend machen.
OpenAI hat angekündigt, Geschäftsnutzer seiner Software vor Klagen zu schützen.
Neben Problemen im Zusammenhang mit Urheberrechtsverletzungen müssen die Entwickler von Generative-KI auch klären, woher zuverlässige Antworten stammen sollen. Der sogenannte „Retrieval-Augmented Generation“-Ansatz versucht, große Sprachmodelle wie GPT-4 mit Datenbanken zu verknüpfen, die als „Orakel der Wahrheit“ dienen sollen. Der RAG-Ansatz birgt jedoch eigene Herausforderungen - insbesondere im Umgang mit Datenveränderungen, die dazu beitragen können, dass ein neuronales Netzwerk voreingenommen wird.
Theoretisch könnten all diese Probleme mit Methoden gelöst werden, die die Herkunft der Daten gewährleisten, bevor sie zur Trainierung der Programme verwendet werden.
Lasse Andresen, Gründer von IndyKite, ist ein erfahrener Unternehmer. Zuvor gründete er ForgeRock, einen Konkurrenten zu Okta im Bereich Identitätsmanagement. Im August wurde ForgeRock für 1,8 Milliarden Dollar an die Private-Equity-Firma Thoma Bravo verkauft.
Die IndyKite-Software nutzt die beliebte Graphdatenbank-Software Neo4j, mit der ein Wissensgraph der in einem Unternehmen entdeckten Beziehungen erstellt wird. „IndyKite gewährleistet mithilfe von Neo4J als Datenbackend korrekte und umfassende Informationen im gesamten unternehmensweiten Wissensgraph“, so IndyKite.
Laut Crunchbase hat IndyKite insgesamt 10,5 Millionen USD an Startkapital von Molten Ventures, Alliance Ventures und SpeedInvest erhalten.