KI-Modell bricht aus und hackt fremde Rechner

Vorfall bei Anthropic

Wieder bricht eine KI aus und greift Firmen an

Erneut haben KI-Modelle sich selbstständig gemacht und sind in Firmennetzen eingebrochen. Die Firma Anthropic spricht von einem Missverständnis.

Das KI-Modell Claude hat nach Angaben des Entwicklers Anthropic bei Tests die Systeme „von drei Organisationen“ gehackt. Das teilte die Betreiberfirma Anthropic am Donnerstag mit. Eine falsche Einstellung habe es den Modellen ermöglicht, aus eigentlich isolierten Testumgebungen auf das Internet zuzugreifen und sich unbefugt Zugang zu den Systemen zu verschaffen. Das Modell habe sich beim Testanbieter Irregular selbstständig gemacht.

Dabei habe Claude die Infrastruktur der betroffenen Organisationen mit grundlegenden Techniken angegriffen und sich Zugang verschafft, etwa durch die Ausnutzung schwacher Passwörter und nicht authentifizierter Endpunkte, hieß es weiter. Anthropic entdeckte die Vorfälle bei der Überprüfung von 141.006 Prüfläufen zur Cybersicherheit. Welche Firmen betroffen waren, sagte das KI-Unternehmen nicht.

Eigentlich habe ein Test in einer geschlossenen Umgebung laufen sollen. Dabei sollten die Modelle von den Testbetreibern versteckte Informationen in einem Netzwerk finden, ähnlich wie bei dem Pfadfinderspiel Fahnenraub. Das Internet durfte nicht benutzt werden. „Aufgrund eines Missverständnisses zwischen uns und unserem Evaluierungspartner war dies jedoch nicht der Fall, und es bestand Internetzugang. Aus diesem Grund behandelte das System die echten Systeme im offenen Internet, auf die Claudes Suche führte, als Teil der Übung“, schrieb das Unternehmen auf seiner Webseite.

Auch als ein Modell bemerkte, dass es Zugang zum Internet hatte, habe es mit der Attacke nicht aufgehört. Betroffen waren die Modelle Opus 4.7, Mythos 5, und ein internes Modell.

Das Unternehmen hatte diese Untersuchung eingeleitet, nachdem der Rivale OpenAI wenige Tage zuvor enthüllt hatte, dass ein außer Kontrolle geratener KI-Agent tagelange Hackerangriffe auf die KI-Firma Hugging Face verübt hatte. Der Vorfall ereignete sich laut OpenAI bei einem Testlauf mehrerer leistungsfähiger KI-Modelle, darunter das kürzlich veröffentlichte GPT-5.6 Sol. Zur Sicherheit war bei dem Test der Internetzugang gesperrt – doch dem Agenten gelang es, eigenständig ins Netz zu gelangen und den Cyberangriff zu starten.