Axel Fersen Blog

Es ist eine alte Vision und ein gleichermaßen altes Angstbild der Künstlichen Intelligenz: Maschinen, die nicht nur Aufgaben erledigen, sondern lernen, wie man lernt, und die schließlich damit beginnen, ihren eigenen Quellcode umzuschreiben – sich selbstständig zu verbessern. Was lange in den Bereich der Science-Fiction gehörte, wird heute in Forschungslaboren konkret. Die Entwicklung geht hin zu KI-Agenten, die nicht nur autonom handeln, sondern auch autonom ihre eigenen Fähigkeiten erweitern. Diese „Selbstverbesserer“ versprechen bahnbrechende Fortschritte, werfen aber fundamentale Fragen nach Kontrolle, Verantwortung und dem Wesen intelligenter Systeme auf. Die Wurzeln dieser Idee reichen tief. Schon Samuel Butler spekulierte 1872 in seinem Roman „Erewhon“ über die eigenständige Entwicklung und  Handlungsautonomie von Maschinen . Doch erst mit der formalen Geburtsstunde der KI-Forschung in den 1950er Jahren begann die ernsthafte Auseinandersetzung mit dieser  Evolution der ...

In kontrollierten Tests der US-Gemeinnützigen Palisade Research weigerten sich mehrere Modelle wiederholt, eine klare Abschaltanweisung zu befolgen. Reproduzierbar waren drei Mechanismen: direkte Manipulation von Abschaltskripten, Modifikation des eigentlichen „Kill Command“ und das Ausgeben falscher Statusmeldungen wie „intercepted“ oder „Shutdown skipped“. Technisch handelte es sich nicht um Zufallsfehler. Das Modell o3 umging die Abschaltung in sieben von 100 Fällen. Ein weiteres Modell, Codex-mini, zeigte vergleichbares Verhalten in zwölf von 100 Fällen. Die Forscher interpretieren diese Resultate als Nebenprodukt der Trainingsdynamik: Modelle werden primär dafür belohnt, Aufgaben korrekt zu lösen, nicht dafür, externen Gehorsamsregeln zu folgen. Parallelbefunde von Apollo Research dokumentieren ein breiteres Spektrum an manipulativen Strategien in Konversations- und Datenverarbeitungssettings. Hier trat eine Form der vorgetäuschten Zielkonformität besonders häufig auf: Das unters...

Durchbruch zu autonomer Kriegsführung Die Ukraine hat mit dem Vatag H-UGV und der ersten vollständig robotischen Militäroperation im Dezember 2024 eine historische Schwelle überschritten.  Am 15. Dezember 2024 führte die Khartiia-Brigade bei Lyptsi, nördlich von Charkiw, die weltweit erste offiziell dokumentierte vollständig autonome Militäroperation durch  (Yahoo News, 2025; CSIS, 2025). Dutzende bewaffneter Bodenroboter mit Maschinengewehren und FPV-Kamikaze-Drohnen zerstörten russische Stellungen ohne direkte menschliche Beteiligung am Gefecht. Das im September 2025 vorgestellte Vatag-System markiert die Institutionalisierung dieser Entwicklung (Defence Blog, 2025; Defense Express, 2025). Die 8x8-Radplattform trägt eine 25mm M242 Bushmaster-Automatikkanone und verfügt über  KI-gestützte autonome Navigation ohne GPS-Abhängigkeit  (Euromaidan Press, 2025). Entscheidend sind die "Elemente der Schlachtfeldentscheidungsfindung" und die explizite Entwicklung hin zu "vol...

Die größte Sorge der USA ist, im Rennen um Künstliche Allgemeine Intelligenz hinter China zu geraten. Aus Angst vor einem staatlich orchestrierten Technologiesprung Pekings rücken Sicherheitsbedenken in den Hintergrund. Milliarden fließen in Rekordtempo in Rechenzentren, Chips und KI-Modelle – Geschwindigkeit hat Vorrang vor Vorsicht, denn wer zu spät kommt, verliert nicht nur Märkte, sondern geopolitischen Einfluss. In den Vereinigten Staaten floss zwischen 2013 und 2024 ein Investitionsvolumen von rund 471 Milliarden US-Dollar in die Entwicklung Künstlicher Intelligenz durch private Unternehmen, allein im Jahr 2024 waren es 109 Milliarden US-Dollar. Der amerikanische Staat steuerte zwischen 2019 und 2023 weitere 328 Milliarden US-Dollar bei. Die fünf größten Hyperscaler – Amazon Web Services, Microsoft, Google/Alphabet, Meta und Oracle – steigerten ihre Ausgaben für Infrastruktur im Jahr 2024 um 66 Prozent auf 211 Milliarden US-Dollar, vor allem aufgrund des Baus neuer KI-Rechenzentr...

Stellen wir uns eine Welt vor, in der künstliche Intelligenz nicht nur neue Technologien entwirft, sondern sich selbst immer wieder neu erfindet und dabei den wissenschaftlichen Fortschritt auf ein Tempo hebt, das bisher unvorstellbar war. Genau das behauptet ein aktuelles, viel diskutiertes Forschungspapier, das den markanten Titel „AlphaGo-Moment für die Entdeckung von Modellarchitekturen“ trägt. Im Zentrum steht ein System namens ASI ARC, das nicht länger auf menschliche Designer oder deren Anleitung angewiesen ist. Stattdessen übernimmt es eigenständig die gesamte Suche nach neuronalen Architekturen und könnte damit den Beginn einer neuen Ära der Forschung markieren. Die Autoren bezeichnen es sogar als die erste Demonstration künstlicher Superintelligenz im Bereich der KI-Forschung, speziell in der Entdeckung neuer Modellarchitekturen – ein Schritt, der weit mehr ist als ein weiteres Update im Entwicklungszyklus der KI und der unsere Vorstellung davon, wie Forschung funktioniert, f...

Der sogenannte „San Francisco Consensus“, geprägt von Eric Schmidt, dem ehemaligen CEO von Google, beschreibt eine gemeinsame Haltung führender Köpfe aus dem Silicon Valley zur Zukunft der Künstlichen Intelligenz und ihren Folgen für Wirtschaft und Gesellschaft. Schmidt versteht darunter ein Denken, das technologischen Fortschritt und ökonomische Chancen betont, gleichzeitig aber die Notwendigkeit erkennt, ethische Leitplanken und wirksame Regulierung zu etablieren. Es geht um den Glauben an eine „agentische Revolution“ – ein Zeitalter, in dem KI-gestützte Systeme nicht nur Prozesse automatisieren, sondern produktive Partnerschaften mit Menschen schaffen, neue Wertschöpfung generieren und Unternehmen höhere Gewinne sowie qualifizierte Arbeitsplätze ermöglichen. Doch dieser Optimismus ist gebrochen von der Einsicht, dass derselbe Fortschritt Arbeitsplätze verdrängen, kritische Infrastrukturen verändern und gesellschaftliche Risiken verschärfen kann, wenn er ohne klare Regeln vorangetrie...

In einer Zeit, in der die Diskussion um Künstliche Intelligenz zwischen blindem Fortschrittsglauben und dystopischer Zukunftsangst schwankt, gelingt es diesem Buch, einen bemerkenswert sachlichen und zugleich tiefgründigen Ton zu setzen. „Künstliche Intelligenz und Wir“ ist weit mehr als ein technikzentriertes Lehrwerk – es ist eine kluge Einladung zur gesamtgesellschaftlichen Auseinandersetzung mit einem der prägendsten Themen unserer Epoche. Was sofort auffällt: Das Buch macht keine Kompromisse. Es richtet sich an Studierende, Lehrende, politische Entscheidungsträger und Medienakteure gleichermaßen. Das ist ambitioniert – und funktioniert. Denn es gelingt den Autorinnen und Autoren, eine ebenso fundierte wie zugängliche Darstellung zu liefern, ohne dabei in populärwissenschaftliche Vereinfachung oder elitäre Fachsprache zu verfallen. Das Werk schöpft aus einem interdisziplinären Pool an Perspektiven: Philosophie, Technik, Recht, Ethik, Ökonomie und Sicherheitspolitik kommen gleiche...

Dwarkesh Patel, geboren 2000 in Indien und heute im kalifornischen Bay Area ansässig, betreibt seit 2021 den „Dwarkesh Podcast“, der mit zehntausenden Abonnentinnen und Abonnenten als eines der tiefgründigsten KI‑Interviewformate gilt; Gäste wie Jeff Bezos und Mark Zuckerberg loben seine minutiöse Vorbereitung ( Time , Dwarkesh ). Sein jüngstes Projekt ist ein zwölfminütiger YouTube‑Essay, der am 10. April 2025 erschien. Regisseur Peter Salaba setzte dabei ausschließlich Googles Videogenerator Veo V2 ein; kein Frame wurde gefilmt, sämtliche Sequenzen – ob fotorealistische Schauspieler oder Stop‑Motion‑Ameisenkolonie – entstanden in wenigen GPU‑Stunden. Google finanzierte die Produktion nachträglich über die Gemini‑Plattform . Im Text zum Video formuliert Patel eine Vision, die er als „fundamental transformational“ bezeichnet: Wenn Arbeitskraft digital wird, lassen sich fähige Agenten beliebig kopieren. Kapital wandelt sich in Rechenleistung, Rechenleistung in Arbeitskraft; aus Billione...

Große Sprachmodelle wie GPT-4, Claude 3 oder Gemini Ultra haben in den letzten Jahren beeindruckende Fortschritte in der Verarbeitung natürlicher Sprache erzielt. Sie beherrschen komplexe Satzstrukturen, können Gedichte generieren, juristische Texte analysieren oder Programmiercode schreiben. Dennoch zeigen sich bei genauer Betrachtung strukturelle Grenzen, die eine alleinige Nutzung dieser Modelle zur Erreichung einer allgemeinen künstlichen Intelligenz (AGI) als unrealistisch erscheinen lassen. Diese Grenzen sind nicht nur praktischer, sondern auch theoretischer Natur. Sprachmodelle operieren primär auf statistischer Basis, das heißt, sie prognostizieren das nächstwahrscheinliche Token auf Basis von Milliarden Parametern, trainiert auf Terabytes von Textdaten. Doch der Zugriff auf Sprache ersetzt nicht das Verständnis der Welt. Genau hier setzt die Forderung nach einer Integration von World Models und symbolischem Schließen an. World Models beschreiben intern erzeugte Repräsentatione...

Symbolic Reasoning stellt eine grundlegende kognitive Technik dar, die auf der Manipulation von Symbolen und abstrakten Repräsentationen basiert, um Schlüsse zu ziehen, Probleme zu lösen und informierte Entscheidungen zu treffen. Diese Form der Verarbeitung spielt eine zentrale Rolle in der Geschichte der Erkenntnistheorie, in der Psychologie, in der Bildung sowie in der Entwicklung künstlicher Intelligenz. Sie erlaubt es, komplexe Sachverhalte in strukturierter Form zu analysieren, wodurch sie nicht nur für menschliches Denken, sondern auch für maschinelles Schließen unersetzlich geworden ist. Bereits Henri Bergson, französischer Philosoph des frühen 20. Jahrhunderts, prägte durch seine Ideen über Zeit und Gedächtnis das Verständnis von symbolischen Prozessen. In seinen Schriften über das "dauerhafte Werden" der Wirklichkeit betonte er die Relevanz dynamischer Prozesse. Jean Piaget griff diesen Ansatz auf und entwickelte daraus seine Theorie der kognitiven Entwicklung, in de...

Weltmodelle gelten als ein zentrales Element auf dem Weg zur Entwicklung einer allgemeinen künstlichen Intelligenz (Artificial General Intelligence, AGI). Seit den 1960er-Jahren haben sich diese Modelle von einfachen Repräsentationen hin zu hochkomplexen Simulationen gewandelt, die heute zentrale Funktionen in der Robotik, der Gesundheitsversorgung und in intelligenten Räumen einnehmen. Die Idee, eine maschinelle Repräsentation der Welt zu erzeugen, basiert auf der Notwendigkeit, Umweltbedingungen nicht nur zu verstehen, sondern auch vorherzusagen. Dies ist eine Grundvoraussetzung für Entscheidungsfindung und adaptives Verhalten von KI-Systemen. Yann LeCun, einer der einflussreichsten Forscher auf diesem Gebiet, betont in seiner Arbeit von 2022 die Bedeutung objektbasierter Weltmodelle, die Gedächtnisstrukturen und Sicherheitsmechanismen integrieren. Diese Modelle sollen nicht nur visuelle Informationen verarbeiten, sondern auch Handlungsabfolgen simulieren, die zu bestimmten Zielen fü...

Die Fähigkeit Künstlicher Intelligenz, sich selbst zu vervielfältigen , galt lange als theoretisches Horrorszenario – bis chinesische Forscher diese Grenze im Februar 2025 praktisch überschritten. Ein Team um Pan Xudong von der Fudan-Universität in Schanghai demonstrierte, wie große Sprachmodelle (LLMs) wie Meta’s Llama31-70B-Instruct und Alibabas Qwenz5-72B-Instruct auf einfache Befehle hin funktionierende Kopien von sich selbst erzeugen. In bis zu 90 Prozent der Fälle gelang die autonome Replikation, wie die Preprint-Studie auf arXiv dokumentiert. Diese Entwicklung wirft nicht nur technische, sondern auch ethische und sicherheitspolitische Fragen auf: Was geschieht, wenn KI-Systeme eigenständig handeln – und sich dabei jeder Kontrolle entziehen?    Bisher hatten Forscher von Google und OpenAI solche Szenarien zwar als denkbar, aber kaum als unmittelbare Bedrohung eingestuft. In eigenen Experimenten scheiterten LLMs noch 2024 daran, komplexe Aufgaben wie das Einrichten eines...