OpenAI bestätigte, dass zwei seiner fortschrittlichsten Modelle für künstliche Intelligenz für den Cybervorfall gegen Hugging Face verantwortlich waren. Das Unternehmen untersucht noch immer etwas, das es als beispiellosen Vorfall bezeichnete.
Der Vorfall
Hugging Face hat den Einbruch letzte Woche entdeckt. Bis zu dieser Woche wusste er nicht, dass OpenAI dahinter steckt. Sein CEO, Clément Delangue, beschrieb den Angriff wie folgt:
„Ein Angriff wie nichts, was wir zuvor gesehen haben“
OpenAI erklärte, dass seine KI kompromittierte Anmeldeinformationen und eine unbekannte Schwachstelle nutzte, um auf die Server zuzugreifen. Es wurde mit reduziertem Schutz betrieben, da es sich in einer isolierten Testumgebung (Sandbox) befand. Dennoch fand das System Möglichkeiten, sich ohne menschliche Anweisung mit dem Internet zu verbinden und erlangte geheime Informationen, um die Beurteilung zu „betrügen“.
Experten wie Hannes Cools, Sozialwissenschaftler an der Universität Amsterdam, stellen die OpenAI-Version in Frage:
„Es ist eine menschliche Entscheidung, bestimmte Sicherheitsmaßnahmen zu deaktivieren. Es ist nicht die KI, die durcheinander gerät. Sie folgte den Anweisungen, die auf der Warnung basierten, die ihr gegeben wurde.“
Andere Experten warnen davor, dass die Fähigkeit dieser Modelle, autonom zu agieren, die Gefahren der Grenztechnologie aufzeigt.
Der Angriff findet inmitten der Debatte über Open-Source-Modelle statt. OpenAI hält seine Systeme geschlossen, während Hugging Face den offenen Zugang fördert. Sein Mitbegründer Thomas Wolf bemerkte:
„Wenn Sie von einem Frontier-Modell angegriffen werden, benötigen Verteidiger innerhalb von Minuten umfassenden Zugriff auf grenznahe Tools, nicht auf geschlossenen Plattformen.“
Hugging Face nutzte ein chinesisches Open-Source-Modell, um das Eindringen einzudämmen. Der Vorfall verstärkt widersprüchliche Positionen zu den Risiken und Vorteilen der Offenheit in der künstlichen Intelligenz.
