Gefährlich wird KI nicht erst dann, wenn sie „zu klug“ wird, sondern wenn sie in eine Logik gerät, in der Klugheit vor allem eines bedeutet: den Gegner zu schlagen. Eine KI, die gegen eine andere KI entwickelt und eingesetzt wird, steht nicht im üblichen Marktwettbewerb, wo Produkte scheitern dürfen und Regulierung zumindest theoretisch nachzieht. Sie steht in einer Dominanzlogik. Dort zählt nicht Kundennutzen, sondern Überlegenheit. Wer verliert, zahlt nicht mit Marktanteilen, sondern mit Sicherheit, Souveränität oder im Extrem mit Menschenleben. Das ist der Punkt, an dem aus Innovation ein Rüstungswettlauf wird – selbst dann, wenn die Akteure offiziell „nur“ Effizienz versprechen. Das Schema ist fast immer gleich. Man nimmt an, der Gegner könne morgen einen Vorteil haben. Also beschleunigt man heute. Beschleunigung erhöht Komplexität und senkt die Bereitschaft, harte Sicherheitsauflagen zu akzeptieren. Gleichzeitig steigt der Anreiz zur Geheimhaltung, weil Transparenz dem Rivalen hil...
Yoshua Bengio gehört zu den zentralen Figuren der modernen Künstlichen Intelligenz. Er ist Professor an der Université de Montréal, Mitbegründer des Deep Learning und neben Geoffrey Hinton und Yann LeCun einer der sogenannten „Godfathers of AI“. Für seine Arbeiten zur Entwicklung neuronaler Netze erhielt er 2018 den Turing Award, die höchste Auszeichnung der Informatik. Seine Forschung legte die Grundlagen für Sprachmodelle, Bilderkennung und viele der Systeme, die heute wirtschaftlich und gesellschaftlich prägend sind. Gerade aus dieser Rolle heraus formuliert Bengio seine Warnungen mit besonderem Gewicht. Er beschreibt einen persönlichen Wendepunkt Anfang 2023, als mit dem Durchbruch großer Sprachmodelle klar wurde, dass Maschinen Sprache nicht nur imitieren, sondern funktional verstehen. Damit sei eine Schwelle überschritten worden, die Alan Turing bereits in den 1950er-Jahren als potenziell gefährlich beschrieben hatte. Die Systeme seien heute noch begrenzt, etwa in langfristiger P...