Neues Modell Astra erreicht „kritische Schwelle“

OpenAI

Neues Modell von ChatGPT erreicht „kritische Schwelle“

OpenAI bringt ein neues ChatGPT-Modell namens Astra in Stellung. Dafür werden die Sicherheitsvorkehrungen nun aber deutlich verschärft.

Das US-Unternehmen OpenAI bereitet nach einem unkontrollierten Hackerangriff durch eines seiner KI-Systeme die Veröffentlichung seines neuen ChatGPT-Modells Astra mit stärkeren Sicherheitsvorkehrungen vor. OpenAI habe Astra unter anderem darauf trainiert, schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückzuweisen und Sicherheitsbeschränkungen einzuhalten, erklärte das Unternehmen am Dienstag.

Zum Hintergrund hieß es, Astra könne Schwachstellen in Computersystemen finden und ausnutzen und erreiche damit als erstes OpenAI-Modell eine „kritische Schwelle“ im Bereich Cybersicherheit. Hinzu kämen zusätzliche Schutzmechanismen gegen Missbrauch sowie eine Überwachung, die potenziell nicht genehmigte Aktivitäten stoppen könne. Besonders weitreichende Fähigkeiten sollen bei der Veröffentlichung zunächst nur ausgewählten Testern zugänglich sein.

• Cyberangriff: KI hackt fremde Firma – wie ernst ist der Vorfall wirklich?

Astra war nach Unternehmensangaben nicht an dem Sicherheitsvorfall beteiligt, der OpenAI im Sommer dazu veranlasste, Teile seiner Modellentwicklung für zwei Wochen auszusetzen. Bei Tests leistungsfähiger KI-Systeme hatte sich im Juli ein KI-Agent selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face ausgeführt. Später teilte OpenAI mit, dass auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden seien.

OpenAI-Chef Sam Altman hatte Mitte August erklärt, bei der Entwicklung Künstlicher Intelligenz werde es „zu Zwischenfällen kommen“. Zugleich betonte er: „Ich halte es für sehr wichtig, dass wir keine Modelle entwickeln, die wir nicht kontrollieren können.“

Auch die US-Regierung beschäftigt sich verstärkt mit den Sicherheitsrisiken leistungsfähiger KI. Präsident Donald Trump ordnete im Juni ein freiwilliges Prüfverfahren an, bei dem die Regierung vor der Veröffentlichung neuer Modelle frühzeitig Zugang erhalten soll. OpenAI hält sich nach eigenen Angaben bei Astra bereits an dieses Verfahren.