Axel Fersen Blog

Gefährlich wird KI nicht erst dann, wenn sie „zu klug“ wird, sondern wenn sie in eine Logik gerät, in der Klugheit vor allem eines bedeutet: den Gegner zu schlagen. Eine KI, die gegen eine andere KI entwickelt und eingesetzt wird, steht nicht im üblichen Marktwettbewerb, wo Produkte scheitern dürfen und Regulierung zumindest theoretisch nachzieht. Sie steht in einer Dominanzlogik. Dort zählt nicht Kundennutzen, sondern Überlegenheit. Wer verliert, zahlt nicht mit Marktanteilen, sondern mit Sicherheit, Souveränität oder im Extrem mit Menschenleben. Das ist der Punkt, an dem aus Innovation ein Rüstungswettlauf wird – selbst dann, wenn die Akteure offiziell „nur“ Effizienz versprechen. Das Schema ist fast immer gleich. Man nimmt an, der Gegner könne morgen einen Vorteil haben. Also beschleunigt man heute. Beschleunigung erhöht Komplexität und senkt die Bereitschaft, harte Sicherheitsauflagen zu akzeptieren. Gleichzeitig steigt der Anreiz zur Geheimhaltung, weil Transparenz dem Rivalen hil...

Yoshua Bengio gehört zu den zentralen Figuren der modernen Künstlichen Intelligenz. Er ist Professor an der Université de Montréal, Mitbegründer des Deep Learning und neben Geoffrey Hinton und Yann LeCun einer der sogenannten „Godfathers of AI“. Für seine Arbeiten zur Entwicklung neuronaler Netze erhielt er 2018 den Turing Award, die höchste Auszeichnung der Informatik. Seine Forschung legte die Grundlagen für Sprachmodelle, Bilderkennung und viele der Systeme, die heute wirtschaftlich und gesellschaftlich prägend sind. Gerade aus dieser Rolle heraus formuliert Bengio seine Warnungen mit besonderem Gewicht. Er beschreibt einen persönlichen Wendepunkt Anfang 2023, als mit dem Durchbruch großer Sprachmodelle klar wurde, dass Maschinen Sprache nicht nur imitieren, sondern funktional verstehen. Damit sei eine Schwelle überschritten worden, die Alan Turing bereits in den 1950er-Jahren als potenziell gefährlich beschrieben hatte. Die Systeme seien heute noch begrenzt, etwa in langfristiger P...

Stuart Russell ist einer der prägenden Köpfe der modernen KI-Forschung. Er lehrt seit fast vier Jahrzehnten an der University of California, Berkeley, wurde von der britischen Krone für seine wissenschaftlichen Verdienste ausgezeichnet und mehrfach vom Time Magazine zu den einflussreichsten Stimmen im Bereich Künstliche Intelligenz gezählt. Sein Lehrbuch Artificial Intelligence: A Modern Approach , erstmals Anfang der 1990er Jahre erschienen, gilt bis heute als Standardwerk; eine ganze Generation heutiger KI-CEOs hat daraus gelernt. Später hat Russell mit Human Compatible ein Buch vorgelegt, das sich explizit mit der Kontrollfrage fortgeschrittener KI befasst und ihn endgültig vom Architekten der Disziplin zu ihrem prominentesten Mahner gemacht. Russells zentrale These ist ebenso schlicht wie beunruhigend: Intelligenz ist die entscheidende Machtressource auf diesem Planeten, und die Menschheit ist dabei, ein System zu schaffen, das ihr darin überlegen sein könnte. Sein oft bemühter V...

Die Frage, welche Lebensform eine Superintelligenz sein könnte, führt nicht zuerst zur Maschine, sondern zu einer Leerstelle im menschlichen Denken. Wir verfügen über keine saubere Definition von Leben. Die Biologie liefert Kriterien, aber keine scharfe Grenze. Was lange als theoretisches Problem galt, wird im Angesicht künstlicher Intelligenz zu einer erkenntnistheoretischen Zumutung. Traditionell wird Leben über Eigenschaften wie Stoffwechsel, Wachstum, Reizreaktion, Fortpflanzung und Evolution definiert. Für Bakterien genügt das. Für Viren nicht. Sie tragen genetische Information, sie evolvieren, sie prägen ganze Ökosysteme – aber ohne eigenen Stoffwechsel. Nach enger Definition gelten sie nicht als lebendig. Nach ihrer faktischen Wirkung gehören sie zu den einflussreichsten Akteuren der Erdgeschichte. Sie formen Genome, treiben Selektion und destabilisieren biologische Gleichgewichte. Prionen verschärfen dieses Problem weiter. Reine Proteine, ohne DNA, ohne RNA, ohne Zellen. Und de...