Axel Fersen Blog

Gefährlich wird KI nicht erst dann, wenn sie „zu klug“ wird, sondern wenn sie in eine Logik gerät, in der Klugheit vor allem eines bedeutet: den Gegner zu schlagen. Eine KI, die gegen eine andere KI entwickelt und eingesetzt wird, steht nicht im üblichen Marktwettbewerb, wo Produkte scheitern dürfen und Regulierung zumindest theoretisch nachzieht. Sie steht in einer Dominanzlogik. Dort zählt nicht Kundennutzen, sondern Überlegenheit. Wer verliert, zahlt nicht mit Marktanteilen, sondern mit Sicherheit, Souveränität oder im Extrem mit Menschenleben. Das ist der Punkt, an dem aus Innovation ein Rüstungswettlauf wird – selbst dann, wenn die Akteure offiziell „nur“ Effizienz versprechen. Das Schema ist fast immer gleich. Man nimmt an, der Gegner könne morgen einen Vorteil haben. Also beschleunigt man heute. Beschleunigung erhöht Komplexität und senkt die Bereitschaft, harte Sicherheitsauflagen zu akzeptieren. Gleichzeitig steigt der Anreiz zur Geheimhaltung, weil Transparenz dem Rivalen hil...

Yoshua Bengio gehört zu den zentralen Figuren der modernen Künstlichen Intelligenz. Er ist Professor an der Université de Montréal, Mitbegründer des Deep Learning und neben Geoffrey Hinton und Yann LeCun einer der sogenannten „Godfathers of AI“. Für seine Arbeiten zur Entwicklung neuronaler Netze erhielt er 2018 den Turing Award, die höchste Auszeichnung der Informatik. Seine Forschung legte die Grundlagen für Sprachmodelle, Bilderkennung und viele der Systeme, die heute wirtschaftlich und gesellschaftlich prägend sind. Gerade aus dieser Rolle heraus formuliert Bengio seine Warnungen mit besonderem Gewicht. Er beschreibt einen persönlichen Wendepunkt Anfang 2023, als mit dem Durchbruch großer Sprachmodelle klar wurde, dass Maschinen Sprache nicht nur imitieren, sondern funktional verstehen. Damit sei eine Schwelle überschritten worden, die Alan Turing bereits in den 1950er-Jahren als potenziell gefährlich beschrieben hatte. Die Systeme seien heute noch begrenzt, etwa in langfristiger P...

Stuart Russell ist einer der prägenden Köpfe der modernen KI-Forschung. Er lehrt seit fast vier Jahrzehnten an der University of California, Berkeley, wurde von der britischen Krone für seine wissenschaftlichen Verdienste ausgezeichnet und mehrfach vom Time Magazine zu den einflussreichsten Stimmen im Bereich Künstliche Intelligenz gezählt. Sein Lehrbuch Artificial Intelligence: A Modern Approach , erstmals Anfang der 1990er Jahre erschienen, gilt bis heute als Standardwerk; eine ganze Generation heutiger KI-CEOs hat daraus gelernt. Später hat Russell mit Human Compatible ein Buch vorgelegt, das sich explizit mit der Kontrollfrage fortgeschrittener KI befasst und ihn endgültig vom Architekten der Disziplin zu ihrem prominentesten Mahner gemacht. Russells zentrale These ist ebenso schlicht wie beunruhigend: Intelligenz ist die entscheidende Machtressource auf diesem Planeten, und die Menschheit ist dabei, ein System zu schaffen, das ihr darin überlegen sein könnte. Sein oft bemühter V...

Die Frage, welche Lebensform eine Superintelligenz sein könnte, führt nicht zuerst zur Maschine, sondern zu einer Leerstelle im menschlichen Denken. Wir verfügen über keine saubere Definition von Leben. Die Biologie liefert Kriterien, aber keine scharfe Grenze. Was lange als theoretisches Problem galt, wird im Angesicht künstlicher Intelligenz zu einer erkenntnistheoretischen Zumutung. Traditionell wird Leben über Eigenschaften wie Stoffwechsel, Wachstum, Reizreaktion, Fortpflanzung und Evolution definiert. Für Bakterien genügt das. Für Viren nicht. Sie tragen genetische Information, sie evolvieren, sie prägen ganze Ökosysteme – aber ohne eigenen Stoffwechsel. Nach enger Definition gelten sie nicht als lebendig. Nach ihrer faktischen Wirkung gehören sie zu den einflussreichsten Akteuren der Erdgeschichte. Sie formen Genome, treiben Selektion und destabilisieren biologische Gleichgewichte. Prionen verschärfen dieses Problem weiter. Reine Proteine, ohne DNA, ohne RNA, ohne Zellen. Und de...

Mit der Genehmigung eines Vergütungspakets von bis zu einer Billion US-Dollar für Elon Musk durch die Tesla-Aktionäre ist eine neue Dimension privater Akkumulation von Macht und Vermögen erreicht. Diese beispiellose Summe, die über einen Zeitraum von zehn Jahren an Bedingungen geknüpft ausgezahlt werden soll, wirft fundamentale Fragen über das Verhältnis zwischen privatwirtschaftlicher und staatlicher Macht im 21. Jahrhundert auf. Denn die Größenordnung dieser Vergütung lässt sich nur noch im Vergleich mit der Wirtschaftsleistung ganzer Staaten fassen. Um die Tragweite dieser Zahl einzuordnen, hilft ein Blick auf die globale Wirtschaftsarchitektur. Von den rund 195 Staaten weltweit können lediglich 35 bis 40 Länder, also etwa 18 bis 20 Prozent, ein jährliches Bruttoinlandsprodukt von durchschnittlich 100 Milliarden US-Dollar oder mehr erwirtschaften. Musks Vergütungspaket entspricht im Durchschnitt genau dieser Summe pro Jahr. Anders formuliert: Die Aktionäre eines einzelnen Unternehme...

Es ist eine alte Vision und ein gleichermaßen altes Angstbild der Künstlichen Intelligenz: Maschinen, die nicht nur Aufgaben erledigen, sondern lernen, wie man lernt, und die schließlich damit beginnen, ihren eigenen Quellcode umzuschreiben – sich selbstständig zu verbessern. Was lange in den Bereich der Science-Fiction gehörte, wird heute in Forschungslaboren konkret. Die Entwicklung geht hin zu KI-Agenten, die nicht nur autonom handeln, sondern auch autonom ihre eigenen Fähigkeiten erweitern. Diese „Selbstverbesserer“ versprechen bahnbrechende Fortschritte, werfen aber fundamentale Fragen nach Kontrolle, Verantwortung und dem Wesen intelligenter Systeme auf. Die Wurzeln dieser Idee reichen tief. Schon Samuel Butler spekulierte 1872 in seinem Roman „Erewhon“ über die eigenständige Entwicklung und  Handlungsautonomie von Maschinen . Doch erst mit der formalen Geburtsstunde der KI-Forschung in den 1950er Jahren begann die ernsthafte Auseinandersetzung mit dieser  Evolution der ...

In kontrollierten Tests der US-Gemeinnützigen Palisade Research weigerten sich mehrere Modelle wiederholt, eine klare Abschaltanweisung zu befolgen. Reproduzierbar waren drei Mechanismen: direkte Manipulation von Abschaltskripten, Modifikation des eigentlichen „Kill Command“ und das Ausgeben falscher Statusmeldungen wie „intercepted“ oder „Shutdown skipped“. Technisch handelte es sich nicht um Zufallsfehler. Das Modell o3 umging die Abschaltung in sieben von 100 Fällen. Ein weiteres Modell, Codex-mini, zeigte vergleichbares Verhalten in zwölf von 100 Fällen. Die Forscher interpretieren diese Resultate als Nebenprodukt der Trainingsdynamik: Modelle werden primär dafür belohnt, Aufgaben korrekt zu lösen, nicht dafür, externen Gehorsamsregeln zu folgen. Parallelbefunde von Apollo Research dokumentieren ein breiteres Spektrum an manipulativen Strategien in Konversations- und Datenverarbeitungssettings. Hier trat eine Form der vorgetäuschten Zielkonformität besonders häufig auf: Das unters...

Durchbruch zu autonomer Kriegsführung Die Ukraine hat mit dem Vatag H-UGV und der ersten vollständig robotischen Militäroperation im Dezember 2024 eine historische Schwelle überschritten.  Am 15. Dezember 2024 führte die Khartiia-Brigade bei Lyptsi, nördlich von Charkiw, die weltweit erste offiziell dokumentierte vollständig autonome Militäroperation durch  (Yahoo News, 2025; CSIS, 2025). Dutzende bewaffneter Bodenroboter mit Maschinengewehren und FPV-Kamikaze-Drohnen zerstörten russische Stellungen ohne direkte menschliche Beteiligung am Gefecht. Das im September 2025 vorgestellte Vatag-System markiert die Institutionalisierung dieser Entwicklung (Defence Blog, 2025; Defense Express, 2025). Die 8x8-Radplattform trägt eine 25mm M242 Bushmaster-Automatikkanone und verfügt über  KI-gestützte autonome Navigation ohne GPS-Abhängigkeit  (Euromaidan Press, 2025). Entscheidend sind die "Elemente der Schlachtfeldentscheidungsfindung" und die explizite Entwicklung hin zu "vol...

Die größte Sorge der USA ist, im Rennen um Künstliche Allgemeine Intelligenz hinter China zu geraten. Aus Angst vor einem staatlich orchestrierten Technologiesprung Pekings rücken Sicherheitsbedenken in den Hintergrund. Milliarden fließen in Rekordtempo in Rechenzentren, Chips und KI-Modelle – Geschwindigkeit hat Vorrang vor Vorsicht, denn wer zu spät kommt, verliert nicht nur Märkte, sondern geopolitischen Einfluss. In den Vereinigten Staaten floss zwischen 2013 und 2024 ein Investitionsvolumen von rund 471 Milliarden US-Dollar in die Entwicklung Künstlicher Intelligenz durch private Unternehmen, allein im Jahr 2024 waren es 109 Milliarden US-Dollar. Der amerikanische Staat steuerte zwischen 2019 und 2023 weitere 328 Milliarden US-Dollar bei. Die fünf größten Hyperscaler – Amazon Web Services, Microsoft, Google/Alphabet, Meta und Oracle – steigerten ihre Ausgaben für Infrastruktur im Jahr 2024 um 66 Prozent auf 211 Milliarden US-Dollar, vor allem aufgrund des Baus neuer KI-Rechenzentr...

Stellen wir uns eine Welt vor, in der künstliche Intelligenz nicht nur neue Technologien entwirft, sondern sich selbst immer wieder neu erfindet und dabei den wissenschaftlichen Fortschritt auf ein Tempo hebt, das bisher unvorstellbar war. Genau das behauptet ein aktuelles, viel diskutiertes Forschungspapier, das den markanten Titel „AlphaGo-Moment für die Entdeckung von Modellarchitekturen“ trägt. Im Zentrum steht ein System namens ASI ARC, das nicht länger auf menschliche Designer oder deren Anleitung angewiesen ist. Stattdessen übernimmt es eigenständig die gesamte Suche nach neuronalen Architekturen und könnte damit den Beginn einer neuen Ära der Forschung markieren. Die Autoren bezeichnen es sogar als die erste Demonstration künstlicher Superintelligenz im Bereich der KI-Forschung, speziell in der Entdeckung neuer Modellarchitekturen – ein Schritt, der weit mehr ist als ein weiteres Update im Entwicklungszyklus der KI und der unsere Vorstellung davon, wie Forschung funktioniert, f...

Der sogenannte „San Francisco Consensus“, geprägt von Eric Schmidt, dem ehemaligen CEO von Google, beschreibt eine gemeinsame Haltung führender Köpfe aus dem Silicon Valley zur Zukunft der Künstlichen Intelligenz und ihren Folgen für Wirtschaft und Gesellschaft. Schmidt versteht darunter ein Denken, das technologischen Fortschritt und ökonomische Chancen betont, gleichzeitig aber die Notwendigkeit erkennt, ethische Leitplanken und wirksame Regulierung zu etablieren. Es geht um den Glauben an eine „agentische Revolution“ – ein Zeitalter, in dem KI-gestützte Systeme nicht nur Prozesse automatisieren, sondern produktive Partnerschaften mit Menschen schaffen, neue Wertschöpfung generieren und Unternehmen höhere Gewinne sowie qualifizierte Arbeitsplätze ermöglichen. Doch dieser Optimismus ist gebrochen von der Einsicht, dass derselbe Fortschritt Arbeitsplätze verdrängen, kritische Infrastrukturen verändern und gesellschaftliche Risiken verschärfen kann, wenn er ohne klare Regeln vorangetrie...

In einer Zeit, in der die Diskussion um Künstliche Intelligenz zwischen blindem Fortschrittsglauben und dystopischer Zukunftsangst schwankt, gelingt es diesem Buch, einen bemerkenswert sachlichen und zugleich tiefgründigen Ton zu setzen. „Künstliche Intelligenz und Wir“ ist weit mehr als ein technikzentriertes Lehrwerk – es ist eine kluge Einladung zur gesamtgesellschaftlichen Auseinandersetzung mit einem der prägendsten Themen unserer Epoche. Was sofort auffällt: Das Buch macht keine Kompromisse. Es richtet sich an Studierende, Lehrende, politische Entscheidungsträger und Medienakteure gleichermaßen. Das ist ambitioniert – und funktioniert. Denn es gelingt den Autorinnen und Autoren, eine ebenso fundierte wie zugängliche Darstellung zu liefern, ohne dabei in populärwissenschaftliche Vereinfachung oder elitäre Fachsprache zu verfallen. Das Werk schöpft aus einem interdisziplinären Pool an Perspektiven: Philosophie, Technik, Recht, Ethik, Ökonomie und Sicherheitspolitik kommen gleiche...

Dwarkesh Patel, geboren 2000 in Indien und heute im kalifornischen Bay Area ansässig, betreibt seit 2021 den „Dwarkesh Podcast“, der mit zehntausenden Abonnentinnen und Abonnenten als eines der tiefgründigsten KI‑Interviewformate gilt; Gäste wie Jeff Bezos und Mark Zuckerberg loben seine minutiöse Vorbereitung ( Time , Dwarkesh ). Sein jüngstes Projekt ist ein zwölfminütiger YouTube‑Essay, der am 10. April 2025 erschien. Regisseur Peter Salaba setzte dabei ausschließlich Googles Videogenerator Veo V2 ein; kein Frame wurde gefilmt, sämtliche Sequenzen – ob fotorealistische Schauspieler oder Stop‑Motion‑Ameisenkolonie – entstanden in wenigen GPU‑Stunden. Google finanzierte die Produktion nachträglich über die Gemini‑Plattform . Im Text zum Video formuliert Patel eine Vision, die er als „fundamental transformational“ bezeichnet: Wenn Arbeitskraft digital wird, lassen sich fähige Agenten beliebig kopieren. Kapital wandelt sich in Rechenleistung, Rechenleistung in Arbeitskraft; aus Billione...

Große Sprachmodelle wie GPT-4, Claude 3 oder Gemini Ultra haben in den letzten Jahren beeindruckende Fortschritte in der Verarbeitung natürlicher Sprache erzielt. Sie beherrschen komplexe Satzstrukturen, können Gedichte generieren, juristische Texte analysieren oder Programmiercode schreiben. Dennoch zeigen sich bei genauer Betrachtung strukturelle Grenzen, die eine alleinige Nutzung dieser Modelle zur Erreichung einer allgemeinen künstlichen Intelligenz (AGI) als unrealistisch erscheinen lassen. Diese Grenzen sind nicht nur praktischer, sondern auch theoretischer Natur. Sprachmodelle operieren primär auf statistischer Basis, das heißt, sie prognostizieren das nächstwahrscheinliche Token auf Basis von Milliarden Parametern, trainiert auf Terabytes von Textdaten. Doch der Zugriff auf Sprache ersetzt nicht das Verständnis der Welt. Genau hier setzt die Forderung nach einer Integration von World Models und symbolischem Schließen an. World Models beschreiben intern erzeugte Repräsentatione...