Anthropic, das KI-Sicherheitsunternehmen hinter dem Claude-Chatbot, hat versehentlich sensible Informationen über ein nicht veröffentlichtes Künstliche-Intelligenz-Modell und vertrauliche Geschäftsdetails durch eine falsch konfigurierte öffentliche Datenbank preisgegeben, wie Sicherheitsforscher berichten, die die Panne entdeckt haben.
Die durchgesickerten Daten enthalten Berichten zufolge technische Spezifikationen für ein Modell mit dem Codenamen "Claude Mythos", das einen bedeutenden Fortschritt in den KI-Fähigkeiten des Unternehmens zu darstellen scheint. Sicherheitsexperten, die die freigegebenen Informationen analysierten, deuten darauf hin, dass das neue Modell verbesserte Denkfähigkeiten und möglicherweise besorgniserregende Cybersicherheitsauswirkungen haben könnte.
Die Datenbankpanne enthüllte auch Details über eine bevorstehende exklusive Veranstaltung mit dem Geschäftsführer von Anthropic und wirft Fragen zur Datenbehandlung des Unternehmens auf, während es mit OpenAI und Google auf dem schnell wachsenden Markt für künstliche Intelligenz konkurriert.
Anthropic, gegründet von ehemaligen OpenAI-Führungskräften, darunter Dario und Daniela Amodei, hat sich als Vorreiter in der KI-Sicherheitsforschung positioniert. Das Unternehmen hat verantwortungsvolle Entwicklungspraktiken und verfassungsmäßige KI-Ansätze betont, die darauf abzielen, Systeme hilfreicher, harmloser und ehrlicher zu machen.
Der Vorfall verdeutlicht anhaltende Herausforderungen in der KI-Branche bezüglich der Informationssicherheit und des Schutzes von Forschungsergebnissen. Während Unternehmen um die Entwicklung immer leistungsfähigerer Sprachmodelle konkurrieren, könnte die versehentliche Offenlegung technischer Details Konkurrenten wertvolle Einblicke in Anthropics Entwicklungsplan geben.