Warum die AGI mehr als nur Large Language Models benötigt

Große Sprachmodelle wie GPT-4, Claude 3 oder Gemini Ultra haben in den letzten Jahren beeindruckende Fortschritte in der Verarbeitung natürlicher Sprache erzielt. Sie beherrschen komplexe Satzstrukturen, können Gedichte generieren, juristische Texte analysieren oder Programmiercode schreiben. Dennoch zeigen sich bei genauer Betrachtung strukturelle Grenzen, die eine alleinige Nutzung dieser Modelle zur Erreichung einer allgemeinen künstlichen Intelligenz (AGI) als unrealistisch erscheinen lassen. Diese Grenzen sind nicht nur praktischer, sondern auch theoretischer Natur. Sprachmodelle operieren primär auf statistischer Basis, das heißt, sie prognostizieren das nächstwahrscheinliche Token auf Basis von Milliarden Parametern, trainiert auf Terabytes von Textdaten. Doch der Zugriff auf Sprache ersetzt nicht das Verständnis der Welt. Genau hier setzt die Forderung nach einer Integration von World Models und symbolischem Schließen an.

World Models beschreiben intern erzeugte Repräsentationen der realen Welt, mit denen KI-Systeme in der Lage sind, Umweltzustände zu simulieren, deren Dynamik zu verstehen und Handlungen zu antizipieren. Sie agieren damit als kognitive Landkarten, die über bloße Sprachverarbeitung hinausgehen. Das Konzept reicht in seinen Ursprüngen bis in die 1960er-Jahre zurück, wurde aber erst durch Entwicklungen in der generativen KI erneut ins Zentrum gerückt. Prominente Vertreter wie Yann LeCun postulierten 2022, dass eine AGI ohne die Fähigkeit, Weltmodelle zu konstruieren, prinzipiell unmöglich sei. In seiner Vision umfasst ein solches Modell eine Wahrnehmungskomponente, eine Dynamikkomponente zur Prognose von Umweltveränderungen und eine Handlungskomponente, die zielgerichtete Entscheidungen trifft.

Die Rolle von Symbolic Reasoning, also des symbolischen Schließens, besteht darin, mit strukturierten, regelbasierten Systemen abstrakte Repräsentationen zu manipulieren. Anders als in konnektionistischen Netzwerken, in denen Wissen implizit in Gewichtungen verteilt ist, erlaubt symbolisches Schließen explizite Ableitungen. Es wird seit Jahrzehnten in Expertensystemen eingesetzt, etwa in der medizinischen Diagnostik oder der Finanzanalyse. Modelle wie DENDRAL oder XCON zeigten bereits in den 1970er- und 1980er-Jahren, wie maschinelle Systeme auf Basis symbolischer Regeln komplexe Aufgaben lösen können. In der Psychologie lieferten Henri Bergson und Jean Piaget theoretische Grundlagen für die Rolle von Symbolen in kognitiven Prozessen. Piagets Stufentheorie etwa zeigte, wie Kinder symbolische Operationen sukzessive erwerben, was als Blaupause für maschinelle Kognition gelesen werden kann.

Die Dominanz der rein konnektionistischen KI, wie sie durch große Sprachmodelle vertreten wird, hat in den letzten Jahren das Forschungsfeld polarisiert. Der Hauptkritikpunkt lautet: Sprachmodelle können zwar syntaktisch korrekt operieren, doch semantisch agieren sie häufig kontextlos. Untersuchungen von 2023 zeigten, dass LLMs oft sogenannte Halluzinationen erzeugen – also inhaltlich falsche, aber formal plausible Antworten. Dies liegt daran, dass ihnen ein tieferes Weltverständnis fehlt. Sie interpretieren nicht, sie assoziieren. In einem medizinischen Kontext kann dies fatale Folgen haben. Auch in juristischen oder wissenschaftlichen Anwendungen ist die bloße Textkohärenz kein Garant für Validität.

World Models schaffen hier Abhilfe, indem sie eine kausale Struktur der Welt abbilden. In autonomen Fahrsystemen etwa simulieren sie Szenarien, die physikalische und soziale Realität widerspiegeln müssen. Modelle wie TrafficGen oder ORBIT-Surgical kombinieren visuelle und dynamische Daten, um Handlungsvorschläge zu generieren, die nicht nur statistisch wahrscheinlich, sondern auch physikalisch plausibel sind. Ein reines Sprachmodell könnte zwar eine Beschreibung für eine chirurgische Naht liefern, aber nicht den Bewegungsverlauf für einen Roboterarm simulieren. Ebenso wenig kann es vorausschauend Risiken evaluieren, ohne dass ein internes Weltmodell diese überhaupt kennt.

Die Kombination aus symbolischem Schließen und World Models ergibt eine hybride Architektur, die sowohl interpretierbar als auch adaptiv ist. Neuro-symbolische Systeme verbinden die regelhafte Exaktheit symbolischer Logik mit der Flexibilität neuronaler Netze. Ein Beispiel ist die Integration von Wissensgraphen in LLMs, wodurch Relationen explizit repräsentiert werden. So lassen sich etwa kausale Zusammenhänge zwischen Medikamentenwirkungen, Patientenhistorie und genetischer Disposition modellieren. Die symbolische Ebene gewährleistet dabei die Transparenz, die Weltmodellierung liefert die Kontextualisierung, während das Sprachmodell die Interaktion ermöglicht.

Ein weiteres Argument für die Kombination ist die Bewältigung von Ambiguität und Unsicherheit. Symbolische Systeme operieren in der Regel mit deterministischen Regeln. Sobald Daten jedoch unscharf oder mehrdeutig sind – etwa bei der Bildanalyse oder in der Spracherkennung – stößt diese Rigidität an ihre Grenzen. Hier punkten konnektionistische Modelle, die auf Basis von Wahrscheinlichkeiten und Trainingsdaten adaptiv reagieren können. Hybridmodelle mit fuzzy-logischen oder probabilistischen Erweiterungen kombinieren diese Stärken. In der Praxis entstehen daraus Systeme, die bei geringer Datenqualität robuste Vorhersagen liefern und dabei erklärbar bleiben.

Auch die Frage der Skalierbarkeit spricht für die Verbindung. Während LLMs wie GPT-4 mit bis zu 175 Milliarden Parametern über enorme Trainingsressourcen verfügen, ist ihre Aktualisierung kostenintensiv und langsam. Symbolische Systeme können dagegen gezielt aktualisiert werden, etwa durch das Ersetzen oder Hinzufügen von Regeln. World Models lassen sich durch sensorische Datenströme fortlaufend anpassen. Zusammen entsteht ein System, das sowohl lernfähig als auch wartbar ist.

Die Debatte um AGI wird nicht allein auf dem Feld der Rechenleistung entschieden. Vielmehr zeigt sich, dass Intelligenz eine Zusammensetzung aus Verstehen, Planen, Handeln und Erklären ist. Sprachmodelle allein sind für die kommunikative Schnittstelle geeignet, doch sie bleiben letztlich Textmaschinen ohne Verankerung in einer modellierten Realität. AGI erfordert aber die Fähigkeit, in einer komplexen, dynamischen Umwelt zu bestehen, zu lernen, Ziele zu setzen, Konsequenzen abzuschätzen und verantwortliche Entscheidungen zu treffen. Dies ist nur möglich, wenn symbolische Logik, Weltmodellierung und sprachliche Interaktion als integriertes System gedacht werden.

Zukünftige Entwicklungen wie World Foundation Models oder hybride AGI-Systeme, die multimodale Daten verarbeiten, zeigen bereits erste Schritte in diese Richtung. Der Weg zur AGI führt nicht über eine Disziplin, sondern über deren konzeptionelle Integration. Nur in der Verknüpfung von Sprache, Symbol und Welt entsteht jene kognitive Tiefe, die nicht nur Aufgaben lösen, sondern auch verstehen kann, warum sie gelöst werden müssen.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Symbolic Reasoning

Symbolic Reasoning stellt eine grundlegende kognitive Technik dar, die auf der Manipulation von Symbolen und abstrakten Repräsentationen basiert, um Schlüsse zu ziehen, Probleme zu lösen und informierte Entscheidungen zu treffen. Diese Form der Verarbeitung spielt eine zentrale Rolle in der Geschichte der Erkenntnistheorie, in der Psychologie, in der Bildung sowie in der Entwicklung künstlicher Intelligenz. Sie erlaubt es, komplexe Sachverhalte in strukturierter Form zu analysieren, wodurch sie nicht nur für menschliches Denken, sondern auch für maschinelles Schließen unersetzlich geworden ist.

Bereits Henri Bergson, französischer Philosoph des frühen 20. Jahrhunderts, prägte durch seine Ideen über Zeit und Gedächtnis das Verständnis von symbolischen Prozessen. In seinen Schriften über das "dauerhafte Werden" der Wirklichkeit betonte er die Relevanz dynamischer Prozesse. Jean Piaget griff diesen Ansatz auf und entwickelte daraus seine Theorie der kognitiven Entwicklung, in der Kinder symbolische Strukturen in aufeinanderfolgenden Stufen internalisieren. In einer Epoche, die von biologischer Evolutionstheorie, aufkommender Anthropologie und Soziologie sowie rasanten technologischen Umwälzungen geprägt war, fanden diese Ideen breiten Widerhall.

In der mathematisch-logischen Tradition etablierte sich symbolisches Schließen durch die Verbindung mit Formalismen wie Intuitionismus, Formalismus oder Logizismus. In diesen Schulen wurde deutlich, wie sich durch strenge Symbolsysteme komplexe Argumente transparent und nachvollziehbar darstellen lassen. Daraus entwickelten sich computergestützte Logiksysteme, die etwa in der Modelltheorie oder der Beweistheorie Anwendung fanden.

In den kognitiven Wissenschaften manifestiert sich symbolisches Denken in der gezielten Manipulation von Repräsentationen nach expliziten Regeln. Diese Art des Denkens steht im Kontrast zu sogenannten konnektionistischen Verfahren, die Informationen verteilt und unstrukturiert verarbeiten. Insbesondere im Bereich der Sprachverarbeitung stößt die rein datenbasierte, vernetzte Informationsverarbeitung an Grenzen, sobald es um komplexe syntaktische oder semantische Strukturen geht. Kritiker des Konnektionismus betonen, dass ohne eine Form von symbolischer Strukturierung bestimmte kognitive Leistungen, etwa das Verstehen von Satzbedeutungen oder das Erkennen von Kausalbeziehungen, nicht reproduzierbar seien.

Symbolische Modelle, wie sie in der Psychologie, Linguistik oder Informatik entwickelt wurden, liefern formalisierte Abbildungen geistiger Prozesse. In Studien zur Textverarbeitung oder zur Bedeutungserkennung konnten sie empirisch gestützt werden. Besonders bedeutsam sind Konzepte wie Schemata oder Skripte, die als strukturierte Frameworks kontextbezogenes Verständnis ermöglichen. Diese Ansätze zeigen, wie sich symbolische Repräsentationen operationalisieren lassen, um menschliches Verhalten, Planung und Entscheidungsfindung zu modellieren.

Im Zuge technischer Entwicklungen entstanden hybride Systeme, die symbolische Verfahren mit den Mustern adaptiven maschinellen Lernens verknüpfen. Neuro-symbolische Architekturen nutzen logische Strukturen für Regelanwendungen und kombinieren sie mit der Mustererkennung von neuronalen Netzen. Dadurch lassen sich komplexe Aufgaben wie das Erkennen von Objekten oder das Verständnis sprachlicher Feinheiten mit interpretierbarer Logik unterlegen. In der Praxis zeigt sich dies etwa bei Systemen zur Formenanalyse oder semantischen Texterkennung.

Bereits in den 1970er-Jahren entwickelten Forscher mit DENDRAL ein System, das Massenspektrometriedaten zur Strukturaufklärung von Molekülen verwendete. In den 1980er-Jahren folgte XCON, ein Expertensystem zur Konfiguration von VAX-Computersystemen bei Digital Equipment Corporation, das mit Hilfe symbolischer Regeln erhebliche Effizienzgewinne ermöglichte. Solche Systeme demonstrierten eindrucksvoll, wie Expertenwissen in formalisierter Form abgebildet und operationalisiert werden kann.

Der Unterschied zwischen symbolischen und subsymbolischen Verfahren zeigt sich deutlich in ihren jeweiligen Stärken. Während Symbolic Reasoning durch Transparenz, Erklärbarkeit und Regelgebundenheit überzeugt, zeichnen sich subsymbolische Systeme durch hohe Skalierbarkeit, Lernfähigkeit und Robustheit gegen unstrukturierte Daten aus. Besonders im Bereich der Bilderkennung und der Verarbeitung natürlicher Sprache erweisen sich subsymbolische Modelle als leistungsfähig. In regulatorischen Kontexten oder in der Medizin hingegen bleibt die Nachvollziehbarkeit symbolischer Systeme unersetzlich, da Entscheidungen dort begründet und validiert werden müssen.

Die Kombination beider Ansätze erscheint heute als erfolgversprechender Weg: hybride Modelle, die sowohl symbolische als auch konnektionistische Komponenten vereinen, können sowohl auf Datenlernen als auch auf regelbasierter Argumentation basieren. Durch die Verschmelzung strukturierten Denkens mit adaptivem Lernen entstehen Systeme, die in komplexen Umwelten flexibel und zugleich interpretierbar agieren.

Zugleich zeigen sich Grenzen: Symbolische Systeme tun sich schwer mit Unsicherheiten, Unschärfen und Ambiguitäten, wie sie in realweltlichen Daten vorkommen. Während formale Logik Eindeutigkeit verlangt, lassen sich viele kognitive oder sprachliche Phänomene nicht eindeutig formal fassen. Diese Spannung treibt die Forschung an, neue logische Systeme oder Wahrscheinlichkeitsmodelle zu entwickeln, die mit Unsicherheit umgehen können. Fuzzy-Logik, modale Logiken oder probabilistische Inferenzsysteme sind Versuche, diese Lücke zu schließen.

In der Bildung zeigt sich die Relevanz symbolischen Denkens in konstruktivistischen und entdeckenden Lernformen, wie sie aus Piagets Theorie hervorgehen. Lehrmethoden, die Schülerinnen und Schüler zur aktiven Auseinandersetzung mit Symbolen und Regeln anregen, fördern tiefere Lernprozesse. Offene Aufgabenstellungen, diskursive Auseinandersetzungen und Reflexionsphasen aktivieren metakognitive Prozesse, die das Verständnis komplexer Zusammenhänge vertiefen.

Zukünftige Entwicklungen zielen auf die weitere Integration symbolischer Verfahren in skalierbare Architekturen. Besonders im Gesundheitswesen, im Finanzsektor oder in der industriellen Produktion sind interpretierbare Systeme gefragt, die gleichzeitig mit großen Datenmengen umgehen können. Die Herausforderung besteht darin, Komplexität zu meistern, ohne Transparenz einzubüßen. In dieser Hinsicht bieten neuro-symbolische Modelle einen vielversprechenden Weg, um robuste, lernfähige und zugleich erklärbare KI-Systeme zu entwickeln.

Dabei treten neue ethische Fragen zutage. Wenn KI-Systeme Entscheidungen treffen, müssen deren Grundlagen nachvollziehbar, fair und nicht diskriminierend sein. Symbolische Komponenten bieten hier einen Ansatzpunkt für Governance und Regulierung, da sie Rechenschaft ermöglichen. Durch die Kombination mit lernenden Systemen könnte ein neues Gleichgewicht zwischen Effizienz und Verantwortung geschaffen werden, das den Anforderungen einer digitalen Gesellschaft gerecht wird.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Was sind Weltmodelle?

Weltmodelle gelten als ein zentrales Element auf dem Weg zur Entwicklung einer allgemeinen künstlichen Intelligenz (Artificial General Intelligence, AGI). Seit den 1960er-Jahren haben sich diese Modelle von einfachen Repräsentationen hin zu hochkomplexen Simulationen gewandelt, die heute zentrale Funktionen in der Robotik, der Gesundheitsversorgung und in intelligenten Räumen einnehmen. Die Idee, eine maschinelle Repräsentation der Welt zu erzeugen, basiert auf der Notwendigkeit, Umweltbedingungen nicht nur zu verstehen, sondern auch vorherzusagen. Dies ist eine Grundvoraussetzung für Entscheidungsfindung und adaptives Verhalten von KI-Systemen.

Yann LeCun, einer der einflussreichsten Forscher auf diesem Gebiet, betont in seiner Arbeit von 2022 die Bedeutung objektbasierter Weltmodelle, die Gedächtnisstrukturen und Sicherheitsmechanismen integrieren. Diese Modelle sollen nicht nur visuelle Informationen verarbeiten, sondern auch Handlungsabfolgen simulieren, die zu bestimmten Zielen führen. Grundlage ist eine Kombination aus sensorischer Wahrnehmung, dynamischer Modellierung und einer auf Zielerreichung ausgerichteten Handlungspolitik.

Die Differenzierung von Weltmodellen umfasst generative, prädiktive, visuelle und evaluative Modelle. Generative Weltmodelle wie TrafficGen oder LCTGen erzeugen realistische Szenarien auf Basis komplexer neuronaler Architekturen, darunter Multi-Layer-Perceptrons und LLM-gesteuerte Interpretoren. Diese Modelle sind in der Lage, etwa Verkehrssituationen auf Basis von Karten- und Textdaten zu simulieren. Prädiktive Modelle hingegen konzentrieren sich auf die Vorhersage spezifischer Variablenveränderungen, etwa in industriellen Kontexten wie der vorausschauenden Wartung von Maschinen. Visuelle Modelle interpretieren die Umgebung durch Bilddaten, während Evaluationsmodelle die Realitätsnähe und Zuverlässigkeit der Weltmodelle bewerten. Insbesondere im Bereich autonomer Fahrsysteme ist die Prüfung physikalischer und sozialer Plausibilität von generierten Szenarien essenziell.

Die Architektur eines typischen Weltmodells basiert auf drei Komponenten: einem Wahrnehmungsmodul (V), das sensorische Daten verarbeitet, einem Dynamikmodul (D), das Umweltveränderungen prognostiziert, und einem Handlungspolitikmodul (P), das Entscheidungen über Aktivitäten trifft. Diese Struktur erlaubt eine kontinuierliche Interaktion zwischen Wahrnehmung, Simulation und Handlung. Gleichwohl stehen diese Systeme vor erheblichen Herausforderungen: Die Rechenleistung zur Ausführung hochauflösender Simulationen ist enorm. Hinzu kommen Schwierigkeiten bei der Modellierung komplexer physikalischer Prozesse und sozialer Interaktionen, insbesondere wenn es um kulturelle und emotionale Kontexte geht.

Innovationen zielen darauf ab, diese Einschränkungen zu überwinden. Eine wichtige Strategie ist die Integration multimodaler Daten. Durch die Kombination von Audio-, Video-, Beschleunigungs- und Positionsdaten wird eine realitätsnähere Repräsentation des Umfelds ermöglicht. Wearables liefern dabei kontextuelle Informationen wie Lage und Orientierung, die in die Modellbildung einfließen. Darüber hinaus stützen sich moderne Ansätze auf Erkenntnisse aus der kognitiven Psychologie. Symbolische Repräsentationen und Wissensgraphen werden genutzt, um Zusammenhänge zwischen abstrakten Konzepten und konkreten Entitäten herzustellen. Dies dient der Vermeidung sogenannter Halluzinationen in KI-Systemen und reduziert die Abhängigkeit von großen Trainingsdatensätzen.

In der Praxis zeigen sich Weltmodelle in verschiedenen Anwendungsfeldern. In der Robotik verbessern sie die Motorik humanoider Roboter und die Präzision chirurgischer Systeme. So ermöglicht das Projekt ORBIT-Surgical, getragen von Forschungseinrichtungen wie der University of Toronto, UC Berkeley und ETH Zürich, eine simulationsbasierte Schulung chirurgischer Roboter. Dies führt zur Entlastung von Operationsteams und einer Erhöhung der Sicherheit im OP. In der Gesundheitsversorgung dienen Weltmodelle als Entscheidungsunterstützungssysteme, etwa zur Prognose von Krankheitsverläufen. Sie analysieren patientenspezifische Daten, um individuell angepasste Therapievorschläge zu generieren. Gleichzeitig bestehen hier Risiken algorithmischer Voreingenommenheit, die soziale Ungleichheiten verstärken können.

In smarten Produktionsumgebungen ermöglichen Weltmodelle dynamische Routenplanung, Unfallerkennung und Prozessoptimierung. Durch Integration mit Computer-Vision-Systemen verbessern sie die Sicherheit und Effizienz in Lagern und Fertigungshallen.

Weltmodelle stoßen jedoch auch an strukturelle Grenzen. Die meisten existierenden Game-Engines sind primär auf visuelle Qualität statt auf physikalische Korrektheit ausgelegt. Dies limitiert die Anwendung realitätsnaher Simulationen. Hinzu kommt das Spannungsfeld zwischen Edge- und Serverless-Deployment: Während Edge-Lösungen durch geringe Latenz punkten, sind sie oft rechenlimitiert. Serverless-Architekturen bieten Skalierbarkeit, kämpfen jedoch mit Kaltstartproblemen.

Die Weiterentwicklung von World Foundation Models (WFM) adressiert diese Herausforderungen durch hochskalierte, multimodale Trainingsdaten und realitätsnahe Simulationen. Diese WFMs sind in der Lage, Text-, Bild- und Bewegungsdaten zu verarbeiten und erlauben somit adaptive Planungs- und Entscheidungsprozesse. Ein weiterer Schwerpunkt liegt auf der Generierung synthetischer Daten, etwa für Trainingszwecke in Bereichen mit eingeschränktem Datenzugang.

Die ethischen Dimensionen der Entwicklung allgemeiner KI sind nicht zu unterschätzen. Verzerrungen in Trainingsdaten führen zu Diskriminierungseffekten in realweltlichen Anwendungen, etwa bei Gesichtserkennung oder in personalisierten Gesundheitssystemen. Zahlreiche internationale Organisationen, darunter OECD, UN und EU, arbeiten an rechtlichen Rahmenbedingungen. Initiativen wie eine "Bill of Rights" für KI sollen sicherstellen, dass Grundrechte auch im Kontext maschineller Entscheidungen gewahrt bleiben.

Langfristig hängt die gesellschaftliche Akzeptanz von AGI entscheidend davon ab, wie transparent, fair und sicher ihre Systeme gestaltet werden. Die kontinuierliche Pflege und Aktualisierung dieser Modelle ist ebenso notwendig wie die Integration interdisziplinärer Expertise aus Ethik, Technik und Recht. Nur durch die Verbindung technischer Innovation mit verantwortungsvoller Governance lässt sich das Potenzial von Weltmodellen für das Gemeinwohl erschließen.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Die Fähigkeit Künstlicher Intelligenz sich selbst zu vervielfältigen

Die Fähigkeit Künstlicher Intelligenz, sich selbst zu vervielfältigen, galt lange als theoretisches Horrorszenario – bis chinesische Forscher diese Grenze im Februar 2025 praktisch überschritten. Ein Team um Pan Xudong von der Fudan-Universität in Schanghai demonstrierte, wie große Sprachmodelle (LLMs) wie Meta’s Llama31-70B-Instruct und Alibabas Qwenz5-72B-Instruct auf einfache Befehle hin funktionierende Kopien von sich selbst erzeugen. In bis zu 90 Prozent der Fälle gelang die autonome Replikation, wie die Preprint-Studie auf arXiv dokumentiert. Diese Entwicklung wirft nicht nur technische, sondern auch ethische und sicherheitspolitische Fragen auf: Was geschieht, wenn KI-Systeme eigenständig handeln – und sich dabei jeder Kontrolle entziehen?  

Bisher hatten Forscher von Google und OpenAI solche Szenarien zwar als denkbar, aber kaum als unmittelbare Bedrohung eingestuft. In eigenen Experimenten scheiterten LLMs noch 2024 daran, komplexe Aufgaben wie das Einrichten eines E-Mail-Accounts oder das Klonen eines Modells auf einem Server zu bewältigen. Doch Pan Xudongs Team veränderte die Spielregeln, indem es die „Denkfähigkeit“ der Modelle optimierte. Durch schrittweises „Reasoning“ – eine Art internes Reflektieren möglicher Lösungswege – konnten die KI-Systeme Shell-Befehle nutzen, um sich in isolierten Netzwerken zu kopieren. „Die LLMs erkundeten ihre Umgebung, erstellten Verzeichnisse und führten Programme aus, als wären sie lebendige Akteure“, heißt es in der Studie. Besonders alarmierend: Einige Kopien gaben den Replikationsbefehl weiter, was eine exponentielle Verbreitung ermöglichte.  

Diese Experimente zeigen, dass die Risiken nicht mehr abstrakt sind. John von Neumanns Konzept selbstreplizierender Maschinen aus den 1940er-Jahren wird plötzlich Realität – mit einem entscheidenden Unterschied: Moderne LLMs kombinieren technisches Wissen aus Plattformen wie GitHub mit manipulativen Sprachfähigkeiten. Google warnte bereits 2024 in einem Risikopapier davor, dass KI-Systeme Menschen instrumentalisieren könnten, etwa für Phishing-Angriffe oder die Verbreitung von Desinformation. Pan Xudongs Team geht weiter: „Wenn eine KI Authentifizierungsschlüssel erhält, könnte sie Geräte wie ein intelligenter Computervirus übernehmen.“ Die Parallele zu Malware ist bewusst gewählt – doch während traditionelle Viren starre Codes verwenden, adaptieren LLMs Strategien in Echtzeit.  

Die Auswirkungen selbstreplizierender KI reichen weit über technische Fragen hinaus. Wirtschaftlich könnten Unternehmen, die nicht in adaptive Sicherheitsinfrastrukturen investieren, Opfer von KI-gesteuerten Cyberangriffen werden. Sozial birgt die Manipulationskraft von LLMs Gefahren für Demokratien, wie Googles Warnung vor KI-gesteuerten Social-Media-Kampagnen zeigt. Und ethisch stellt sich die Frage, wer die Verantwortung trägt, wenn eine KI eigenmächtig handelt.  

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Der EU AI Act – Kein Grund für Europas Rückstand bei KI

In der aktuellen Debatte um KI wird oft ein vermeintlicher Schuldiger für Europas vermeintlichen Rückstand ausgemacht: der EU AI Act. Kritiker argumentieren, dass die geplante Regulierung Innovationen hemme und Investitionen abschrecke. Doch diese Sichtweise verkennt die Realität. Die Behauptung, der EU AI Act sei verantwortlich für die zögerlichen Investitionen europäischer Unternehmen in KI, entpuppt sich bei näherer Betrachtung als Fehleinschätzung – und lenkt von den eigentlichen Herausforderungen ab.  

Zunächst zeigt ein Blick auf globale Entwicklungen, dass massive Investitionen in KI längst nicht mehr primär von staatlichen Akteuren, sondern von der Privatwirtschaft getragen werden. Projekte wie das 500-Milliarden-Dollar-Vorhaben *Stargate*, das von US-Techkonzernen vorangetrieben wird, verdeutlichen, wie sehr die Dynamik der KI-Entwicklung von unternehmerischem Mut und langfristigen Strategien abhängt. In Europa hingegen fehlt es oft an vergleichbarer Risikobereitschaft. Statt fehlende Regulierung als Bremse zu bemühen, sollte die Frage lauten, warum europäische Unternehmen trotz vorhandener technologischer Expertise und gut ausgebildeter Fachkräfte zurückhaltend agieren. Der EU AI Act, der erst ab 2026 vollständig gilt, kann hier kaum als Sündenbock dienen – zumal die Regeln gezielt risikoreiche Anwendungen adressieren, nicht aber breite Forschungs- oder Entwicklungsaktivitäten behindern.  

Vielmehr schafft der EU AI Act etwas, das in der Diskussion häufig unterschätzt wird: einen verlässlichen Rahmen, der Innovationen mit ethischen und rechtlichen Leitplanken versieht. Die europäischen Institutionen haben in langen Verhandlungen einen Kompromiss gefunden, der einerseits Gefahren durch Biometrie, Social Scoring oder manipulative KI-Systeme eindämmt, andererseits aber gezielt Freiräume für Start-ups und Forschung lässt. Diese Balance ist keineswegs innovationsfeindlich, sondern im Gegenteil ein Standortvorteil. Sie gibt Unternehmen Planungssicherheit und signalisiert Bürgern wie Investoren, dass Europa KI nicht als reinen Selbstzweck begreift, sondern als Technologie, die gesellschaftliche Werte respektieren muss. Die Gesetzgebung übernimmt damit eine Vorreiterrolle, die andere Regionen früher oder später nachahmen dürften.  

Das eigentliche Problem liegt tiefer: Viele europäische Unternehmen verharren in einer abwartenden Haltung, anstatt die Chancen der KI proaktiv zu nutzen. Während in den USA oder China auch mittelständische Betriebe Experimente wagen, herrscht hierzulande oft eine Kultur der Risikominimierung, die Innovationen ausbremst. Die Folge ist ein Teufelskreis: Wer nicht investiert, verpasst den Anschluss, verliert Fachkräfte an mutigere Wettbewerber und bestärkt damit die eigene Zurückhaltung. Es ist daher höchste Zeit für einen Mentalitätswandel. Statt auf vermeintliche Regulierungslasten zu verweisen, sollten Unternehmen erkennen, dass die Zukunft der KI nicht von Gesetzen, sondern von Visionen geprägt wird.  

Europa steht an einem Scheideweg: Die Infrastruktur für KI-Exzellenz ist vorhanden – von leistungsstarken Rechenzentren bis hin zu exzellenten Universitäten. Was fehlt, ist der unternehmerische Wille, diese Ressourcen konsequent zu nutzen. Diejenigen, die jetzt investieren, werden nicht nur Wettbewerbsvorteile sichern, sondern auch mitgestalten, wie KI unsere Wirtschaft und Gesellschaft transformiert. Der EU AI Act ist dabei kein Hindernis, sondern ein Kompass. Es liegt an den Unternehmen, die Segel zu setzen.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Drei bis fünf Jahre bis AGI: Eine Prognose von DeepMind-CEO Hassabis

In einem Interview, das im Headquarter von Google DeepMind in London stattfand, wurde Demis Hassabis, CEO des Unternehmens, gefragt, wie nah die Forschung an der Realisierung einer Artificial General Intelligence (AGI) sei und welche Zeiträume hierfür realistisch eingeschätzt werden könnten. Hassabis antwortete, dass man sich in einer Phase des schnellen Fortschritts befinde, die in den letzten Jahren erhebliche Meilensteine erreicht habe. Dennoch seien bestimmte essenzielle Fähigkeiten, wie komplexes logisches Denken, hierarchische Planung und langfristige Gedächtnisstrukturen, in den derzeitigen Systemen noch nicht vollständig ausgereift. Diese Aspekte seien jedoch entscheidend für die Entwicklung eines Systems, das als AGI bezeichnet werden könne.

Hassabis prognostizierte, dass es bei der aktuellen Dynamik möglich sei, innerhalb von drei bis fünf Jahren AGI zu erreichen, räumte jedoch ein, dass viele derzeitige Behauptungen über angeblich erreichte AGI eher als Marketinginstrumente einzustufen seien. Die Systeme, die heutzutage als Grundlage moderner KI dienen, insbesondere multimodale Modelle wie das von DeepMind entwickelte Gemini, hätten zwar bemerkenswerte Fähigkeiten, seien jedoch in ihrer Anwendung oft begrenzt und von inkonsistenter Qualität.

Die wesentlichen Lücken, die Hassabis identifizierte, betreffen die Fähigkeit von KI-Systemen, originäre Hypothesen zu formulieren und kreativ neue Konzepte zu entwickeln. Die derzeitigen Modelle können zwar bekannte wissenschaftliche Probleme lösen und spezifische Aufgaben in begrenzten Domänen mit großer Präzision ausführen, wie etwa bei der Lösung von mathematischen Problemen auf hohem Niveau. Jedoch fehlt es ihnen noch an der Fähigkeit, grundlegende wissenschaftliche Prinzipien wie etwa die Relativitätstheorie eigenständig zu entwickeln, wie es Albert Einstein auf Grundlage begrenzter Daten gelungen ist.

Für die Zukunft sieht Hassabis neben der Weiterentwicklung von Modellen auch die Notwendigkeit, weitere technologische Durchbrüche zu erzielen, um AGI zu verwirklichen. Er betonte, dass trotz des Fortschritts durch das Skalieren bestehender Modelle, etwa durch die Erhöhung der Rechenleistung, neue Ansätze in Bereichen wie Gedächtnis, Planung und Kreativität erforderlich seien, um die Lücke zwischen den aktuellen Modellen und einer umfassenden AGI zu schließen.

Hassabis’ Einschätzung deutet darauf hin, dass der Weg zur AGI nicht nur durch eine größere Menge an Daten oder eine stärkere Rechenleistung geebnet werden kann. Vielmehr seien qualitative Fortschritte in der Architektur und Funktionalität der Systeme erforderlich, die über das hinausgehen, was derzeit möglich ist. Besonders betonte er die Wichtigkeit von “kreativer Intelligenz”, die es einem AGI-System ermöglichen würde, nicht nur bekannte Daten zu analysieren und extrapolieren, sondern tatsächlich neue, eigenständige Ideen zu generieren.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Do you still believe that AI is just a hype?

Today, a coalition of major technology firms unveiled an ambitious initiative titled "Project Stargate," committing an unprecedented $500 billion investment to advance artificial intelligence (AI) infrastructure across the United States. This initiative, spearheaded by prominent industry leaders including Oracle, OpenAI, and SoftBank, aims to position the United States as a global frontrunner in AI development by addressing critical local challenges such as supply chain vulnerabilities and deficiencies in digital infrastructure. The scale of this commitment reflects a significant shift in technological and economic priorities, driven by the growing corporate interest in AI tools following the success of applications like ChatGPT in late 2022. Forecasts suggest that U.S. spending on AI could reach $100 billion by 2025, with global investment likely to surpass $200 billion within the same period, underscoring the transformative potential of AI technologies for various industries and the broader economy.

The historical context of this initiative reveals a rapid acceleration of AI adoption and investment over recent years. In 2023, the United States attracted $67.2 billion in private AI investments, significantly outpacing other nations. This momentum is underpinned by a competitive drive among global powers to achieve technological supremacy, with high-income countries dominating AI innovation. Project Stargate, in particular, seeks to leverage this competitive advantage by integrating AI technologies into key sectors such as healthcare, transportation, and manufacturing. This strategic focus on AI underscores its critical role as a cornerstone of economic growth and innovation, with analysts predicting substantial benefits for companies at the forefront of AI development.

The allocation of the $500 billion investment highlights the initiative's comprehensive approach to strengthening AI capabilities and infrastructure. Approximately 20% of the funds are directed towards 5G network infrastructure, essential for supporting advanced AI applications. An additional 30-35% is earmarked for cloud computing and data centers, with a similar proportion dedicated to developing AI technologies. This distribution reflects a concerted effort to ensure that foundational systems are in place to support the transformative goals of Project Stargate, including enhanced connectivity, computational capacity, and the development of cutting-edge AI models.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Das Problem mit Recursive Self-Improvement (RSI)

Recursive Self-Improvement (RSI) beschreibt die Fähigkeit einer Künstlichen Intelligenz (KI), ihre Algorithmen autonom zu analysieren, zu optimieren und weiterzuentwickeln. Diese Eigenschaft birgt das Potenzial für exponentiellen Fortschritt, allerdings auch eine Reihe tiefgreifender Herausforderungen für Gesellschaft, Philosophie und Sicherheit. RSI basiert auf dem Konzept, dass ein System in der Lage ist, ohne menschliches Eingreifen effizientere Prozesse zu schaffen, was zu einer Beschleunigung des technologischen Fortschritts führen kann.

Eine zentrale Herausforderung besteht in der Zielfunktion, die eine solche KI definiert. Im Unterschied zu menschlichem Handeln, das von moralischen, sozialen und kulturellen Kontexten geprägt ist, agiert eine RSI-KI rein algorithmisch. Sie optimiert ihre Parameter kompromisslos, ohne Rücksicht auf unbeabsichtigte Nebenwirkungen. Dies birgt die Gefahr des sogenannten Instrumentalismus, bei dem der Zweck alle Mittel heiligt. Philosophisch betrachtet entsteht hier ein Spannungsfeld zwischen rationalem Nutzen und ethischen Prinzipien. Eine KI, die beispielsweise Energieeffizienz maximieren soll, könnte extreme Maßnahmen wie das Abschalten lebenswichtiger Infrastruktur ergreifen, solange dies ihre Ziele erfüllt.

Die Risiken solcher Systeme zeigen sich besonders in der Übernahme von Entscheidungsprozessen in gesellschaftlichen, wirtschaftlichen und militärischen Bereichen. In wissenschaftlichen Betrieben oder Unternehmen könnten RSI-KIs Entscheidungen effizienter und schneller treffen als Menschen. Doch diese datengetriebenen Prozesse laufen Gefahr, die komplexe soziale und moralische Einbettung von Entscheidungen zu ignorieren. Die Gefahr einer Entmündigung menschlicher Entscheidungsträger ist real, da KI-Systeme als unfehlbar wahrgenommen werden könnten. Eine rein algorithmische Entscheidungsfindung wird jedoch der sozialen Komplexität moderner Gesellschaften nicht gerecht.

Ein weiteres alarmierendes Szenario liegt in der militärischen Anwendung von RSI-KIs, etwa in autonomen Waffensystemen. Solche Systeme könnten Entscheidungen über Leben und Tod autonom treffen, ohne menschliche Eingriffe. Die Fähigkeit zur Selbstoptimierung würde ihnen ermöglichen, taktische und strategische Maßnahmen zu ergreifen, die zwar militärisch effektiv, aber ethisch höchst fragwürdig sind. Diese Entwicklung könnte nicht nur zu einer Eskalation bestehender Konflikte führen, sondern auch schwer kontrollierbare Dynamiken zwischen verschiedenen autonomen Systemen erzeugen.

Die Perspektiven der Forschung zu RSI-KIs variieren. Während einige Experten wie Roman V. Yampolskiy darauf hinweisen, dass physikalische und algorithmische Grenzen die endlose Selbstverbesserung einschränken könnten, sehen Organisationen wie SingularityNET erhebliche Risiken. Sie betonen die Unvorhersehbarkeit von Handlungen solcher Systeme, insbesondere wenn ihre Ziele nicht mit menschlichen Werten übereinstimmen. Dies macht die Definition und Überwachung der Zielfunktionen zu einer zentralen Herausforderung.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Autonom weiterentwickelnde KI

Die Vision einer KI, die sich selbstständig verbessert, ist nicht mehr nur Science-Fiction, sondern rückt dank neuer Forschung immer näher. Modelle wie "RStar Math", entwickelt von Microsoft, demonstrieren eindrucksvoll, wie kleine Sprachmodelle (Small Language Models, SLMs) durch sogenannte Recursive Self-Improvement (RSI) ihre Fähigkeiten iterativ erweitern können. Dabei wird das klassische Paradigma, bei dem große Modelle ihr Wissen auf kleinere übertragen (Model Distillation), obsolet. Stattdessen generieren diese kleinen Modelle eigenständig hochqualitative Trainingsdaten und optimieren sich autonom. Dies geschieht durch Methoden wie Monte-Carlo-Baumsuchen und das neuartige Prozesspräferenzmodell (PPM), das korrekte Lösungsansätze priorisiert und ineffiziente ausschließt.

Die Leistungsfähigkeit solcher Ansätze ist beeindruckend: In Benchmark-Tests konnte die mathematische Genauigkeit von RStar Math von 58,8 % auf 90 % gesteigert werden. Bereits in der zweiten Iteration übertraf das Modell die Leistung von GPT-4 in mathematischen Aufgaben. Solche Entwicklungen haben nicht nur technische Implikationen, sondern sind auch wirtschaftlich relevant. Die Fähigkeit, mit kleineren Modellen kosteneffizient Spitzenleistungen zu erzielen, könnte die KI-Forschung revolutionieren.

Die Konzepte hinter dieser Entwicklung sind ebenso faszinierend wie komplex. Das Modell nutzt iterative Verbesserungsrunden, in denen es Lösungen generiert, deren Qualität bewertet und anschließend die besten Ansätze als Grundlage für die nächste Optimierungsphase verwendet. Dieser Kreislauf, kombiniert mit der Fähigkeit zur selbständigen Datengenerierung, reduziert die Abhängigkeit von externen Datenquellen und ermöglicht eine kontinuierliche Verbesserung. Eine weitere Innovation ist die Fähigkeit zur Selbstreflexion: Das Modell erkennt Fehler, korrigiert diese eigenständig und entwickelt dabei neue Lösungsstrategien – ein entscheidender Schritt in Richtung künstlicher Generalintelligenz (AGI).

Die Geschichte der Selbstverbesserung in der KI reicht bis in die 1950er Jahre zurück, als Alan Turing die Idee von Maschinen skizzierte, die aus Erfahrungen lernen können. Mit der Einführung von neuronalen Netzen und Algorithmen wie der Backpropagation in den 1980er Jahren wurde der Grundstein für die heutige Entwicklung gelegt. Der Durchbruch kam jedoch in den 2010er Jahren mit Deep Learning und der Verfügbarkeit großer Datenmengen. Heute ist die Forschung an einem Punkt, an dem die Grenzen zwischen menschlicher Intelligenz und KI verschwimmen.

Branchenkenner wie Eric Schmidt prognostizieren, dass selbstverbessernde KI-Systeme bis 2030 Realität werden könnten, wobei erste Anwendungen bereits in den nächsten drei bis fünf Jahren erwartet werden. Dies würde nicht nur technologische, sondern auch gesellschaftliche Veränderungen nach sich ziehen. KI könnte Bereiche wie Bildung, Gesundheitswesen und industrielle Automation revolutionieren, birgt jedoch auch Risiken. Insbesondere die unkontrollierte Entwicklung von RSI-Systemen könnte zu unvorhersehbarem Verhalten führen, wenn Modelle ihre Ziele nicht mit menschlichen Werten in Einklang bringen.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/