Die posthumane Wüste

LJUBLJANA – Der offene Brief des Future of Life Institute, in dem eine sechsmonatige vorsorgliche Pause bei der Entwicklung künstlicher Intelligenz gefordert wird, wurde bereits von Tausenden hochrangiger Persönlichkeiten unterzeichnet, darunter auch Elon Musk. Die Unterzeichner befürchten, dass sich die KI-Labore in einem „außer Kontrolle geratenen Wettlauf“ befinden, um immer leistungsfähigere Systeme zu entwickeln und einzusetzen, die niemand – auch nicht ihre Erfinder – verstehen, vorhersagen oder kontrollieren kann.

Wie lässt sich dieser Ausbruch von Panik bei einer bestimmten Gruppe von Eliten erklären? Im Kern geht es wohl um Kontrolle und Regulierung, aber wer ist damit gemeint? Wer wird in der vorgeschlagenen halbjährigen Pause, in der die Menschheit eine Bilanz der Risiken ziehen kann, für die Menschheit eintreten? Da die KI-Labore in China, Indien und Russland ihre Arbeit (vielleicht im Verborgenen) fortsetzen werden, ist eine globale öffentliche Debatte zu diesem Thema nicht vorstellbar.

Dennoch sollten wir uns vor Augen halten, was hier auf dem Spiel steht. In seinem 2015 erschienenen Buch Homo Deus sagte der Historiker Yuval Harari voraus, dass die wahrscheinlichste Wirkung der KI eine radikale Spaltung der menschlichen Gesellschaft sein wird – viel stärker als die Klassenspaltung. Schon bald werden Biotechnologie und Computeralgorithmen ihre Kräfte bei der Herstellung von „Körpern, Gehirnen und Köpfen“ vereinen, was zu einer immer größer werdenden Kluft „zwischen denen, die wissen, wie man Körper und Gehirne konstruiert, und denen, die das nicht können“, führen wird. In einer solchen Welt werden „diejenigen, die auf dem Zug des Fortschritts mitfahren, göttliche Fähigkeiten der Schöpfung und Zerstörung erlangen, während diejenigen, die zurückbleiben, mit dem Aussterben konfrontiert werden.“