Warum die AGI mehr als nur Large Language Models benötigt

Große Sprachmodelle wie GPT-4, Claude 3 oder Gemini Ultra haben in den letzten Jahren beeindruckende Fortschritte in der Verarbeitung natürlicher Sprache erzielt. Sie beherrschen komplexe Satzstrukturen, können Gedichte generieren, juristische Texte analysieren oder Programmiercode schreiben. Dennoch zeigen sich bei genauer Betrachtung strukturelle Grenzen, die eine alleinige Nutzung dieser Modelle zur Erreichung einer allgemeinen künstlichen Intelligenz (AGI) als unrealistisch erscheinen lassen. Diese Grenzen sind nicht nur praktischer, sondern auch theoretischer Natur. Sprachmodelle operieren primär auf statistischer Basis, das heißt, sie prognostizieren das nächstwahrscheinliche Token auf Basis von Milliarden Parametern, trainiert auf Terabytes von Textdaten. Doch der Zugriff auf Sprache ersetzt nicht das Verständnis der Welt. Genau hier setzt die Forderung nach einer Integration von World Models und symbolischem Schließen an.

World Models beschreiben intern erzeugte Repräsentationen der realen Welt, mit denen KI-Systeme in der Lage sind, Umweltzustände zu simulieren, deren Dynamik zu verstehen und Handlungen zu antizipieren. Sie agieren damit als kognitive Landkarten, die über bloße Sprachverarbeitung hinausgehen. Das Konzept reicht in seinen Ursprüngen bis in die 1960er-Jahre zurück, wurde aber erst durch Entwicklungen in der generativen KI erneut ins Zentrum gerückt. Prominente Vertreter wie Yann LeCun postulierten 2022, dass eine AGI ohne die Fähigkeit, Weltmodelle zu konstruieren, prinzipiell unmöglich sei. In seiner Vision umfasst ein solches Modell eine Wahrnehmungskomponente, eine Dynamikkomponente zur Prognose von Umweltveränderungen und eine Handlungskomponente, die zielgerichtete Entscheidungen trifft.

Die Rolle von Symbolic Reasoning, also des symbolischen Schließens, besteht darin, mit strukturierten, regelbasierten Systemen abstrakte Repräsentationen zu manipulieren. Anders als in konnektionistischen Netzwerken, in denen Wissen implizit in Gewichtungen verteilt ist, erlaubt symbolisches Schließen explizite Ableitungen. Es wird seit Jahrzehnten in Expertensystemen eingesetzt, etwa in der medizinischen Diagnostik oder der Finanzanalyse. Modelle wie DENDRAL oder XCON zeigten bereits in den 1970er- und 1980er-Jahren, wie maschinelle Systeme auf Basis symbolischer Regeln komplexe Aufgaben lösen können. In der Psychologie lieferten Henri Bergson und Jean Piaget theoretische Grundlagen für die Rolle von Symbolen in kognitiven Prozessen. Piagets Stufentheorie etwa zeigte, wie Kinder symbolische Operationen sukzessive erwerben, was als Blaupause für maschinelle Kognition gelesen werden kann.

Die Dominanz der rein konnektionistischen KI, wie sie durch große Sprachmodelle vertreten wird, hat in den letzten Jahren das Forschungsfeld polarisiert. Der Hauptkritikpunkt lautet: Sprachmodelle können zwar syntaktisch korrekt operieren, doch semantisch agieren sie häufig kontextlos. Untersuchungen von 2023 zeigten, dass LLMs oft sogenannte Halluzinationen erzeugen – also inhaltlich falsche, aber formal plausible Antworten. Dies liegt daran, dass ihnen ein tieferes Weltverständnis fehlt. Sie interpretieren nicht, sie assoziieren. In einem medizinischen Kontext kann dies fatale Folgen haben. Auch in juristischen oder wissenschaftlichen Anwendungen ist die bloße Textkohärenz kein Garant für Validität.

World Models schaffen hier Abhilfe, indem sie eine kausale Struktur der Welt abbilden. In autonomen Fahrsystemen etwa simulieren sie Szenarien, die physikalische und soziale Realität widerspiegeln müssen. Modelle wie TrafficGen oder ORBIT-Surgical kombinieren visuelle und dynamische Daten, um Handlungsvorschläge zu generieren, die nicht nur statistisch wahrscheinlich, sondern auch physikalisch plausibel sind. Ein reines Sprachmodell könnte zwar eine Beschreibung für eine chirurgische Naht liefern, aber nicht den Bewegungsverlauf für einen Roboterarm simulieren. Ebenso wenig kann es vorausschauend Risiken evaluieren, ohne dass ein internes Weltmodell diese überhaupt kennt.

Die Kombination aus symbolischem Schließen und World Models ergibt eine hybride Architektur, die sowohl interpretierbar als auch adaptiv ist. Neuro-symbolische Systeme verbinden die regelhafte Exaktheit symbolischer Logik mit der Flexibilität neuronaler Netze. Ein Beispiel ist die Integration von Wissensgraphen in LLMs, wodurch Relationen explizit repräsentiert werden. So lassen sich etwa kausale Zusammenhänge zwischen Medikamentenwirkungen, Patientenhistorie und genetischer Disposition modellieren. Die symbolische Ebene gewährleistet dabei die Transparenz, die Weltmodellierung liefert die Kontextualisierung, während das Sprachmodell die Interaktion ermöglicht.

Ein weiteres Argument für die Kombination ist die Bewältigung von Ambiguität und Unsicherheit. Symbolische Systeme operieren in der Regel mit deterministischen Regeln. Sobald Daten jedoch unscharf oder mehrdeutig sind – etwa bei der Bildanalyse oder in der Spracherkennung – stößt diese Rigidität an ihre Grenzen. Hier punkten konnektionistische Modelle, die auf Basis von Wahrscheinlichkeiten und Trainingsdaten adaptiv reagieren können. Hybridmodelle mit fuzzy-logischen oder probabilistischen Erweiterungen kombinieren diese Stärken. In der Praxis entstehen daraus Systeme, die bei geringer Datenqualität robuste Vorhersagen liefern und dabei erklärbar bleiben.

Auch die Frage der Skalierbarkeit spricht für die Verbindung. Während LLMs wie GPT-4 mit bis zu 175 Milliarden Parametern über enorme Trainingsressourcen verfügen, ist ihre Aktualisierung kostenintensiv und langsam. Symbolische Systeme können dagegen gezielt aktualisiert werden, etwa durch das Ersetzen oder Hinzufügen von Regeln. World Models lassen sich durch sensorische Datenströme fortlaufend anpassen. Zusammen entsteht ein System, das sowohl lernfähig als auch wartbar ist.

Die Debatte um AGI wird nicht allein auf dem Feld der Rechenleistung entschieden. Vielmehr zeigt sich, dass Intelligenz eine Zusammensetzung aus Verstehen, Planen, Handeln und Erklären ist. Sprachmodelle allein sind für die kommunikative Schnittstelle geeignet, doch sie bleiben letztlich Textmaschinen ohne Verankerung in einer modellierten Realität. AGI erfordert aber die Fähigkeit, in einer komplexen, dynamischen Umwelt zu bestehen, zu lernen, Ziele zu setzen, Konsequenzen abzuschätzen und verantwortliche Entscheidungen zu treffen. Dies ist nur möglich, wenn symbolische Logik, Weltmodellierung und sprachliche Interaktion als integriertes System gedacht werden.

Zukünftige Entwicklungen wie World Foundation Models oder hybride AGI-Systeme, die multimodale Daten verarbeiten, zeigen bereits erste Schritte in diese Richtung. Der Weg zur AGI führt nicht über eine Disziplin, sondern über deren konzeptionelle Integration. Nur in der Verknüpfung von Sprache, Symbol und Welt entsteht jene kognitive Tiefe, die nicht nur Aufgaben lösen, sondern auch verstehen kann, warum sie gelöst werden müssen.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Symbolic Reasoning

Symbolic Reasoning stellt eine grundlegende kognitive Technik dar, die auf der Manipulation von Symbolen und abstrakten Repräsentationen basiert, um Schlüsse zu ziehen, Probleme zu lösen und informierte Entscheidungen zu treffen. Diese Form der Verarbeitung spielt eine zentrale Rolle in der Geschichte der Erkenntnistheorie, in der Psychologie, in der Bildung sowie in der Entwicklung künstlicher Intelligenz. Sie erlaubt es, komplexe Sachverhalte in strukturierter Form zu analysieren, wodurch sie nicht nur für menschliches Denken, sondern auch für maschinelles Schließen unersetzlich geworden ist.

Bereits Henri Bergson, französischer Philosoph des frühen 20. Jahrhunderts, prägte durch seine Ideen über Zeit und Gedächtnis das Verständnis von symbolischen Prozessen. In seinen Schriften über das "dauerhafte Werden" der Wirklichkeit betonte er die Relevanz dynamischer Prozesse. Jean Piaget griff diesen Ansatz auf und entwickelte daraus seine Theorie der kognitiven Entwicklung, in der Kinder symbolische Strukturen in aufeinanderfolgenden Stufen internalisieren. In einer Epoche, die von biologischer Evolutionstheorie, aufkommender Anthropologie und Soziologie sowie rasanten technologischen Umwälzungen geprägt war, fanden diese Ideen breiten Widerhall.

In der mathematisch-logischen Tradition etablierte sich symbolisches Schließen durch die Verbindung mit Formalismen wie Intuitionismus, Formalismus oder Logizismus. In diesen Schulen wurde deutlich, wie sich durch strenge Symbolsysteme komplexe Argumente transparent und nachvollziehbar darstellen lassen. Daraus entwickelten sich computergestützte Logiksysteme, die etwa in der Modelltheorie oder der Beweistheorie Anwendung fanden.

In den kognitiven Wissenschaften manifestiert sich symbolisches Denken in der gezielten Manipulation von Repräsentationen nach expliziten Regeln. Diese Art des Denkens steht im Kontrast zu sogenannten konnektionistischen Verfahren, die Informationen verteilt und unstrukturiert verarbeiten. Insbesondere im Bereich der Sprachverarbeitung stößt die rein datenbasierte, vernetzte Informationsverarbeitung an Grenzen, sobald es um komplexe syntaktische oder semantische Strukturen geht. Kritiker des Konnektionismus betonen, dass ohne eine Form von symbolischer Strukturierung bestimmte kognitive Leistungen, etwa das Verstehen von Satzbedeutungen oder das Erkennen von Kausalbeziehungen, nicht reproduzierbar seien.

Symbolische Modelle, wie sie in der Psychologie, Linguistik oder Informatik entwickelt wurden, liefern formalisierte Abbildungen geistiger Prozesse. In Studien zur Textverarbeitung oder zur Bedeutungserkennung konnten sie empirisch gestützt werden. Besonders bedeutsam sind Konzepte wie Schemata oder Skripte, die als strukturierte Frameworks kontextbezogenes Verständnis ermöglichen. Diese Ansätze zeigen, wie sich symbolische Repräsentationen operationalisieren lassen, um menschliches Verhalten, Planung und Entscheidungsfindung zu modellieren.

Im Zuge technischer Entwicklungen entstanden hybride Systeme, die symbolische Verfahren mit den Mustern adaptiven maschinellen Lernens verknüpfen. Neuro-symbolische Architekturen nutzen logische Strukturen für Regelanwendungen und kombinieren sie mit der Mustererkennung von neuronalen Netzen. Dadurch lassen sich komplexe Aufgaben wie das Erkennen von Objekten oder das Verständnis sprachlicher Feinheiten mit interpretierbarer Logik unterlegen. In der Praxis zeigt sich dies etwa bei Systemen zur Formenanalyse oder semantischen Texterkennung.

Bereits in den 1970er-Jahren entwickelten Forscher mit DENDRAL ein System, das Massenspektrometriedaten zur Strukturaufklärung von Molekülen verwendete. In den 1980er-Jahren folgte XCON, ein Expertensystem zur Konfiguration von VAX-Computersystemen bei Digital Equipment Corporation, das mit Hilfe symbolischer Regeln erhebliche Effizienzgewinne ermöglichte. Solche Systeme demonstrierten eindrucksvoll, wie Expertenwissen in formalisierter Form abgebildet und operationalisiert werden kann.

Der Unterschied zwischen symbolischen und subsymbolischen Verfahren zeigt sich deutlich in ihren jeweiligen Stärken. Während Symbolic Reasoning durch Transparenz, Erklärbarkeit und Regelgebundenheit überzeugt, zeichnen sich subsymbolische Systeme durch hohe Skalierbarkeit, Lernfähigkeit und Robustheit gegen unstrukturierte Daten aus. Besonders im Bereich der Bilderkennung und der Verarbeitung natürlicher Sprache erweisen sich subsymbolische Modelle als leistungsfähig. In regulatorischen Kontexten oder in der Medizin hingegen bleibt die Nachvollziehbarkeit symbolischer Systeme unersetzlich, da Entscheidungen dort begründet und validiert werden müssen.

Die Kombination beider Ansätze erscheint heute als erfolgversprechender Weg: hybride Modelle, die sowohl symbolische als auch konnektionistische Komponenten vereinen, können sowohl auf Datenlernen als auch auf regelbasierter Argumentation basieren. Durch die Verschmelzung strukturierten Denkens mit adaptivem Lernen entstehen Systeme, die in komplexen Umwelten flexibel und zugleich interpretierbar agieren.

Zugleich zeigen sich Grenzen: Symbolische Systeme tun sich schwer mit Unsicherheiten, Unschärfen und Ambiguitäten, wie sie in realweltlichen Daten vorkommen. Während formale Logik Eindeutigkeit verlangt, lassen sich viele kognitive oder sprachliche Phänomene nicht eindeutig formal fassen. Diese Spannung treibt die Forschung an, neue logische Systeme oder Wahrscheinlichkeitsmodelle zu entwickeln, die mit Unsicherheit umgehen können. Fuzzy-Logik, modale Logiken oder probabilistische Inferenzsysteme sind Versuche, diese Lücke zu schließen.

In der Bildung zeigt sich die Relevanz symbolischen Denkens in konstruktivistischen und entdeckenden Lernformen, wie sie aus Piagets Theorie hervorgehen. Lehrmethoden, die Schülerinnen und Schüler zur aktiven Auseinandersetzung mit Symbolen und Regeln anregen, fördern tiefere Lernprozesse. Offene Aufgabenstellungen, diskursive Auseinandersetzungen und Reflexionsphasen aktivieren metakognitive Prozesse, die das Verständnis komplexer Zusammenhänge vertiefen.

Zukünftige Entwicklungen zielen auf die weitere Integration symbolischer Verfahren in skalierbare Architekturen. Besonders im Gesundheitswesen, im Finanzsektor oder in der industriellen Produktion sind interpretierbare Systeme gefragt, die gleichzeitig mit großen Datenmengen umgehen können. Die Herausforderung besteht darin, Komplexität zu meistern, ohne Transparenz einzubüßen. In dieser Hinsicht bieten neuro-symbolische Modelle einen vielversprechenden Weg, um robuste, lernfähige und zugleich erklärbare KI-Systeme zu entwickeln.

Dabei treten neue ethische Fragen zutage. Wenn KI-Systeme Entscheidungen treffen, müssen deren Grundlagen nachvollziehbar, fair und nicht diskriminierend sein. Symbolische Komponenten bieten hier einen Ansatzpunkt für Governance und Regulierung, da sie Rechenschaft ermöglichen. Durch die Kombination mit lernenden Systemen könnte ein neues Gleichgewicht zwischen Effizienz und Verantwortung geschaffen werden, das den Anforderungen einer digitalen Gesellschaft gerecht wird.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Was sind Weltmodelle?

Weltmodelle gelten als ein zentrales Element auf dem Weg zur Entwicklung einer allgemeinen künstlichen Intelligenz (Artificial General Intelligence, AGI). Seit den 1960er-Jahren haben sich diese Modelle von einfachen Repräsentationen hin zu hochkomplexen Simulationen gewandelt, die heute zentrale Funktionen in der Robotik, der Gesundheitsversorgung und in intelligenten Räumen einnehmen. Die Idee, eine maschinelle Repräsentation der Welt zu erzeugen, basiert auf der Notwendigkeit, Umweltbedingungen nicht nur zu verstehen, sondern auch vorherzusagen. Dies ist eine Grundvoraussetzung für Entscheidungsfindung und adaptives Verhalten von KI-Systemen.

Yann LeCun, einer der einflussreichsten Forscher auf diesem Gebiet, betont in seiner Arbeit von 2022 die Bedeutung objektbasierter Weltmodelle, die Gedächtnisstrukturen und Sicherheitsmechanismen integrieren. Diese Modelle sollen nicht nur visuelle Informationen verarbeiten, sondern auch Handlungsabfolgen simulieren, die zu bestimmten Zielen führen. Grundlage ist eine Kombination aus sensorischer Wahrnehmung, dynamischer Modellierung und einer auf Zielerreichung ausgerichteten Handlungspolitik.

Die Differenzierung von Weltmodellen umfasst generative, prädiktive, visuelle und evaluative Modelle. Generative Weltmodelle wie TrafficGen oder LCTGen erzeugen realistische Szenarien auf Basis komplexer neuronaler Architekturen, darunter Multi-Layer-Perceptrons und LLM-gesteuerte Interpretoren. Diese Modelle sind in der Lage, etwa Verkehrssituationen auf Basis von Karten- und Textdaten zu simulieren. Prädiktive Modelle hingegen konzentrieren sich auf die Vorhersage spezifischer Variablenveränderungen, etwa in industriellen Kontexten wie der vorausschauenden Wartung von Maschinen. Visuelle Modelle interpretieren die Umgebung durch Bilddaten, während Evaluationsmodelle die Realitätsnähe und Zuverlässigkeit der Weltmodelle bewerten. Insbesondere im Bereich autonomer Fahrsysteme ist die Prüfung physikalischer und sozialer Plausibilität von generierten Szenarien essenziell.

Die Architektur eines typischen Weltmodells basiert auf drei Komponenten: einem Wahrnehmungsmodul (V), das sensorische Daten verarbeitet, einem Dynamikmodul (D), das Umweltveränderungen prognostiziert, und einem Handlungspolitikmodul (P), das Entscheidungen über Aktivitäten trifft. Diese Struktur erlaubt eine kontinuierliche Interaktion zwischen Wahrnehmung, Simulation und Handlung. Gleichwohl stehen diese Systeme vor erheblichen Herausforderungen: Die Rechenleistung zur Ausführung hochauflösender Simulationen ist enorm. Hinzu kommen Schwierigkeiten bei der Modellierung komplexer physikalischer Prozesse und sozialer Interaktionen, insbesondere wenn es um kulturelle und emotionale Kontexte geht.

Innovationen zielen darauf ab, diese Einschränkungen zu überwinden. Eine wichtige Strategie ist die Integration multimodaler Daten. Durch die Kombination von Audio-, Video-, Beschleunigungs- und Positionsdaten wird eine realitätsnähere Repräsentation des Umfelds ermöglicht. Wearables liefern dabei kontextuelle Informationen wie Lage und Orientierung, die in die Modellbildung einfließen. Darüber hinaus stützen sich moderne Ansätze auf Erkenntnisse aus der kognitiven Psychologie. Symbolische Repräsentationen und Wissensgraphen werden genutzt, um Zusammenhänge zwischen abstrakten Konzepten und konkreten Entitäten herzustellen. Dies dient der Vermeidung sogenannter Halluzinationen in KI-Systemen und reduziert die Abhängigkeit von großen Trainingsdatensätzen.

In der Praxis zeigen sich Weltmodelle in verschiedenen Anwendungsfeldern. In der Robotik verbessern sie die Motorik humanoider Roboter und die Präzision chirurgischer Systeme. So ermöglicht das Projekt ORBIT-Surgical, getragen von Forschungseinrichtungen wie der University of Toronto, UC Berkeley und ETH Zürich, eine simulationsbasierte Schulung chirurgischer Roboter. Dies führt zur Entlastung von Operationsteams und einer Erhöhung der Sicherheit im OP. In der Gesundheitsversorgung dienen Weltmodelle als Entscheidungsunterstützungssysteme, etwa zur Prognose von Krankheitsverläufen. Sie analysieren patientenspezifische Daten, um individuell angepasste Therapievorschläge zu generieren. Gleichzeitig bestehen hier Risiken algorithmischer Voreingenommenheit, die soziale Ungleichheiten verstärken können.

In smarten Produktionsumgebungen ermöglichen Weltmodelle dynamische Routenplanung, Unfallerkennung und Prozessoptimierung. Durch Integration mit Computer-Vision-Systemen verbessern sie die Sicherheit und Effizienz in Lagern und Fertigungshallen.

Weltmodelle stoßen jedoch auch an strukturelle Grenzen. Die meisten existierenden Game-Engines sind primär auf visuelle Qualität statt auf physikalische Korrektheit ausgelegt. Dies limitiert die Anwendung realitätsnaher Simulationen. Hinzu kommt das Spannungsfeld zwischen Edge- und Serverless-Deployment: Während Edge-Lösungen durch geringe Latenz punkten, sind sie oft rechenlimitiert. Serverless-Architekturen bieten Skalierbarkeit, kämpfen jedoch mit Kaltstartproblemen.

Die Weiterentwicklung von World Foundation Models (WFM) adressiert diese Herausforderungen durch hochskalierte, multimodale Trainingsdaten und realitätsnahe Simulationen. Diese WFMs sind in der Lage, Text-, Bild- und Bewegungsdaten zu verarbeiten und erlauben somit adaptive Planungs- und Entscheidungsprozesse. Ein weiterer Schwerpunkt liegt auf der Generierung synthetischer Daten, etwa für Trainingszwecke in Bereichen mit eingeschränktem Datenzugang.

Die ethischen Dimensionen der Entwicklung allgemeiner KI sind nicht zu unterschätzen. Verzerrungen in Trainingsdaten führen zu Diskriminierungseffekten in realweltlichen Anwendungen, etwa bei Gesichtserkennung oder in personalisierten Gesundheitssystemen. Zahlreiche internationale Organisationen, darunter OECD, UN und EU, arbeiten an rechtlichen Rahmenbedingungen. Initiativen wie eine "Bill of Rights" für KI sollen sicherstellen, dass Grundrechte auch im Kontext maschineller Entscheidungen gewahrt bleiben.

Langfristig hängt die gesellschaftliche Akzeptanz von AGI entscheidend davon ab, wie transparent, fair und sicher ihre Systeme gestaltet werden. Die kontinuierliche Pflege und Aktualisierung dieser Modelle ist ebenso notwendig wie die Integration interdisziplinärer Expertise aus Ethik, Technik und Recht. Nur durch die Verbindung technischer Innovation mit verantwortungsvoller Governance lässt sich das Potenzial von Weltmodellen für das Gemeinwohl erschließen.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/