Schwerer Zwischenfall bei umstrittenem KI-Modell „Mythos“

Anthropics „Mythos“

Zwischenfall bei umstrittenem KI-Modell

Die Firma Anthropic untersucht einen schweren Zwischenfall bei ihrer KI-Software „Mythos“. Im Streit mit Donald Trump kann der Anthropic-CEO offenbar die Wogen glätten.

Eine kleine Gruppe unbefugter Nutzer hat sich einem Medienbericht zufolge Zugang zu dem umstrittenen, neuen KI-Modell „Mythos“ des Entwicklers Anthropic verschafft. Wie die Nachrichtenagentur Bloomberg am Dienstag unter Berufung auf Dokumente und einen Insider meldete, erlangten die Personen in einem privaten Onlineforum Zugriff auf die Software. Dies sei genau an dem Tag geschehen, an dem Anthropic Pläne für eine begrenzte Testphase des Modells angekündigt habe. Seitdem nutze die Gruppe das
Modell regelmäßig, jedoch nicht für Zwecke der Cybersicherheit.

Anthropic teilte mit, man untersuche einen Bericht zu einem unbefugten Zugriff auf die Vorabversion „Claude Mythos Preview“ über die Umgebung eines Drittanbieters.

Anthropic hatte Mythos am 7. April vorgestellt. Die Vorabversion wird im Rahmen des sogenannten „Project Glasswing“ ausschließlich ausgewählten Organisationen aus dem Bereich der defensiven Cybersicherheit zur Verfügung gestellt. Mythos gilt als das bislang leistungsfähigste Modell des Unternehmens für Programmieraufgaben und autonomes Handeln.

Experten und Aufsichtsbehörden warnen jedoch vor Missbrauchspotenzial: Die Künstliche Intelligenz sei in der Lage, Schwachstellen in gängigen Betriebssystemen und Webbrowsern zu erkennen und auszunutzen. Nach Angaben von Anthropic hat das Modell Tausende schwerwiegende Sicherheitslücken in weitverbreiteter Software identifiziert.

Nach einem Richtungsstreit mit dem Pentagon kann sich Anthropic derzeit wieder Hoffnungen auf ein besseres Verhältnis zur US-Regierung machen. „Wir verstehen uns mit ihnen“, sagte Präsident Donald Trump in einem Interview des Wirtschaftssenders CNBC. Er verwies darauf, dass Vertreter von Anthropic vor einigen Tagen zu Gesprächen im Weißen Haus waren.

Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz massiven Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen. Das Pentagon erklärte Anthropic daraufhin zu einem Risiko für die Lieferketten. Trump wies US-Behörden an, keine Geschäfte mit dem Unternehmen zu machen. Anthropic zog dagegen vor Gericht.

Zuletzt demonstrierte Anthropic aber, wie wichtig die Technologie des Unternehmens für die US-Regierung ist. Ein neues Anthropic-Modell mit dem Namen „Claude Mythos Preview“ findet zum Teil seit Jahrzehnten unentdeckt gebliebene Schwachstellen in unterschiedlicher Software. In den falschen Händen wäre es eine gefährliche Cyberwaffe. Zugleich könnte es der US-Regierung den Vorteil verschaffen, eigene Programme zu härten und potenzielle Schwachstellen für Spionage im Ausland auszunutzen. Anthropic hat keine Pläne, „Mythos Preview“ öffentlich zu machen.