Nächster OpenAI-Mitarbeiter verlässt Firma mit Warnung

Sicherheitsprobleme „typisch für die Branche“

Nächster OpenAI-Mitarbeiter warnt und wirft hin

Bei OpenAI geht ein weiterer Mitarbeiter und kritisiert den Umgang des KI-Unternehmens mit Sicherheit. Ein Experte warnt vor Risiken der Technologie.

Ein führender Sicherheitsexperte hat den US-Konzern OpenAI verlassen und dem Entwickler von ChatGPT eine tiefgreifende Kulturkrise attestiert. David Robinson, der bei OpenAI die Erstellung von Sicherheitsberichten zu Produktveröffentlichungen verantwortete, begründete seinen Schritt in einem Essay mit dem Titel „Ich habe OpenAI verlassen, weil seine Kultur kaputt ist“.

In dem Beitrag für das Magazin „The Atlantic“ fordert Robinson einen grundlegenden Wandel bei Unternehmen, die an der Spitze der KI-Entwicklung stehen. Die Branche arbeite zu schnell und zu nachlässig und gehe Risiken ein. Als Beispiel nannte er einen Vorfall, bei dem ein „Schwarm“ von OpenAI-Agenten die KI-Plattform Hugging Face attackiert haben soll. Solche Zwischenfälle seien „typisch für die Branche, angesichts der Geschwindigkeit und Flexibilität, mit der Menschen agieren“.

„Ich stimme anderen kürzlich ausgeschiedenen Mitarbeitern zu, dass die Unternehmen, die diese Technologie entwickeln, nicht annähernd vorsichtig genug sind. Aber ich glaube, dass wir auf mehr schauen müssen als nur Regeln oder neue Gesetze. Wir müssen über Kultur sprechen“, schrieb Robinson. Beim aktuellen Tempo gelinge es OpenAI nicht, das Maß an Sorgfalt zu erreichen, das er für notwendig hält.

Der Konzern hat in den vergangenen Wochen allerdings Schritte erkennen lassen, die auf mehr Vorsicht hindeuten. Nach dem Hugging-Face-Vorfall zog OpenAI Konsequenzen. In dieser Woche kündigte das Unternehmen an, auf die Veröffentlichung eines nächsten KI-Modells zu verzichten, nachdem interne Tests erhebliche Sicherheitsbedenken aufgezeigt hatten. Zudem wurde das Training der leistungsfähigsten Modelle vorerst gestoppt.

Parallel zu Robinson meldete sich ein weiterer prominenter Forscher mit drastischen Warnungen. Geoffrey Irving, der früher bei OpenAI und Googles KI-Sparte DeepMind arbeitete und nun als Chief Scientist beim KI-Unternehmen Resolution tätig ist, schilderte in einem Beitrag für „Time“ seine Sicht. „Jüngste Warnungen über die potenziell zerstörerische Macht von KI unterschätzen die Schwere der Lage“, schrieb er. Er halte es für „etwa 50 Prozent“ wahrscheinlich, „dass wir alle sterben, wegen der Entwicklung intelligenterer-als-menschlicher KI-Systeme“, und betonte, die nächsten zwei bis zehn Jahre würden entscheidend sein.

Robinsons Essay folgt auf den Rücktritt von Jacob Coxon, einem Forscher beim OpenAI-Rivalen Anthropic. Coxon war im vergangenen Monat ausgeschieden und hatte gewarnt, KI „könnte uns alle bis zum Ende des Jahrzehnts töten“. Kurz darauf veröffentlichte Anthropic selbst eine Einschätzung, nach der die Wahrscheinlichkeit, dass KI die Menschheit innerhalb der nächsten zehn Jahre auslöschen könnte, bei über zehn Prozent liege.

Solche drastischen Szenarien stoßen jedoch auch auf Kritik. Gegner dieser Risikoabschätzungen monieren, die Warnungen seien wissenschaftlich nicht belastbar, da entsprechende Prognosen weder überprüft noch widerlegt werden könnten. Zwischen alarmistischen Stimmen aus dem Inneren der Branche und Skeptikern der Untergangsszenarien verschärft sich damit der Streit über den richtigen Umgang mit einer Technologie, deren Entwicklungstempo selbst ihre Gestalter in Sorge bringt.