Offenbar war der Vorfall vom Juni auch bei OpenAI selbst erst spät bemerkt worden. Die Firma teilte über einen Sprecher mit, dass erst bei einer intern ausgeführten Überprüfung im August bemerkt worden sei, dass auch „mehrere australische Regierungswebsites“ betroffen gewesen seien. Zur Begründung für den Ausbruch des KI-Agenten gab das Tech-Unternehmen an, OpenAI-Modelle hätten während einer internen Testreihe „versucht, Antworten und verfügbare Statistiken zu Fragen über Australien abzurufen. Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten.“
Altman mahnt zu „äußerster Vorsicht“
Albanese war anlässlich der UN-Generalversammlung nach New York gereist. Dort hatten am Mittwoch auch Tech-Bosse aus dem Silicon Valley bei einer Sitzung des UN-Sicherheitsrats gesprochen. Sie warnten erneut eindringlich vor den Risiken ihres eigenen Produkts. Sowohl Altman als auch der CEO von Anthropic, Dario Amodei, plädierten für eine rasche Einhegung der KI und ein deutlich langsameres Tempo bei deren Entwicklung.
Altman sagte, das aktuelle Stadium der KI-Entwicklung erfordere „äußerste Vorsicht“. Die Branche dürfe „nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln“, sagte er. Anthropic-Chef Dario Amodei versicherte in einer Videostellungnahme: „Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist.“
US-Präsident Trump sieht hingegen keine Gefahren. Er hatte die Warnungen der KI-Bosse kürzlich als großen „Schwindel“ bezeichnet und behauptet, für die Sicherheit bei der Forschung Künstlicher Intelligenz bedürfe es nur eines starken US-Präsidenten. In dieser Woche löste er Aufsehen mit dem Vorschlag aus, Künstliche Intelligenz in Superintelligenz umzubenennen.
Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Grund waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen attackierten. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen.
Grüne Faruqi: „Sie reagieren nur auf Druck“
Australiens Vizepremier Richard Marles nannte den Hackerangriff auf die Regierung durch OpenAI am Donnerstag in Sydney „äußerst schwerwiegend“ und „völlig inakzeptabel“. Er sprach von einer deutlichen Warnung im Hinblick auf die Entwicklung der KI selbst“ und kündigte die Einsetzung einer Taskforce der Regierung an.
