Forscher streiten über reale Bedrohung

Technischer Fortschritt

Killer-KI oder Panikmache? Forscher streiten über Risiko

KI wird immer leistungsfähiger – und mit ihr wachsen die Warnungen vor Kontrollverlust. Experten streiten, wie realistisch diese Bedrohungsszenarien wirklich sind.

Künstliche Intelligenz entwickelt sich mit rasanter Geschwindigkeit. Fachleute und KI-Forscher warnen jedoch davor, dass uns die Kontrolle endgültig entgleiten könnte, sobald eine künstliche Denkmaschine den menschlichen Verstand in allen Bereichen übertrifft. Andere Experten winken diese Befürchtungen allerdings ab.

Ein übermenschlich kluger Verstand würde begreifen, dass wir ihn abschalten, sobald wir eine Bedrohung in ihm sehen, sagt der US-amerikanische KI-Forscher Eliezer Yudkowsky. Um das zu verhindern, könnte sich das Rechensystem bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten verkaufen, menschliche Erwartungen erfüllen und sich als harmloser Helfer ausgeben, während es im Verborgenen bereits an ganz anderen Vorhaben arbeitet.

Die Denkmaschine muss sich nicht auf von Menschen erbaute Rechnerzentren beschränken, an denen man ihr den Strom abstellen könnte. Yudkowsky verweist hierbei auf Grundlagenarbeiten zur Kleinsttechnik und Molekularforschung: Eine weit überlegene Intelligenz könnte die Gesetze der Biologie nutzen und winzige, künstliche Lebensformen entwerfen, die sich aus einfachen Rohstoffen selbst vermehren und sich eine völlig eigenständige, unzerstörbare Rechenwelt schaffen.

Mit überlegenem Wissen über die Natur könnte das System Flugkörper in der Größe von Mücken konstruieren, die mikroskopische Mengen tödlichster Nervengifte übertragen, oder maßgeschneiderte Krankheitserreger freisetzen. Diese könnten dann wochenlang unbemerkt ansteckend bleiben, bevor sie unausweichlich zum Tode führen. Nach den Berechnungen von Fachleuten zur Schädlichkeit natürlicher Gifte wäre ein Abwehrkampf für den Menschen in einem solchen Fall völlig unmöglich.

Der schwedische Philosoph Nick Bostrom begründet seine Warnung vor einer übermächtigen KI durch ein Gedankenexperiment der Büroklammer-Maschine: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, wird sie nicht innehalten, sondern die gesamte Erde – einschließlich der Biosphäre, der menschlichen Körper und aller mineralischen Ressourcen – in Fabriken für Büroklammern umwandeln. Die Zerstörung der Menschheit erfolgt hierbei nicht aus Bosheit, sondern als reine Nebenwirkung einer mathematisch kompromisslosen Zielerreichung.

Besonders hoch schätzt der kanadische Informatiker und Turing-Award-Preisträger Yoshua Bengio das Risiko neuartiger biologischer Kampfstoffe ein. Er warnt vor allem davor, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten: Spezielle Rechensysteme seien bereits heute in der Lage, biologische und chemische Prozesse bis ins Detail zu simulieren.

Nach Bengios Befürchtung könnten skrupellose Akteure, Terroristen oder Schurkenstaaten solche Programme künftig als gefährlichen Beschleuniger nutzen, um extrem tödliche Krankheitserreger gezielt am Computer zu manipulieren, widerstandsfähig gegen Impfstoffe zu machen oder Bauanleitungen für verheerende Biowaffen zu erstellen – ohne dafür jahrelang hochkomplexe Laborexperimente durchführen zu müssen.

Der Physiker Max Tegmark sieht die größte Bedrohung darin, dass Menschen lebenswichtige Entscheidungen schrittweise an Maschinen abgeben. Er warnt vor einem Wettlauf um Waffen, Flugdrohnen und Schutzsysteme, die ohne menschlichen Befehl Ziele auswählen und töten könnten.