Axel Fersen Blog

Große Sprachmodelle wie GPT-4, Claude 3 oder Gemini Ultra haben in den letzten Jahren beeindruckende Fortschritte in der Verarbeitung natürlicher Sprache erzielt. Sie beherrschen komplexe Satzstrukturen, können Gedichte generieren, juristische Texte analysieren oder Programmiercode schreiben. Dennoch zeigen sich bei genauer Betrachtung strukturelle Grenzen, die eine alleinige Nutzung dieser Modelle zur Erreichung einer allgemeinen künstlichen Intelligenz (AGI) als unrealistisch erscheinen lassen. Diese Grenzen sind nicht nur praktischer, sondern auch theoretischer Natur. Sprachmodelle operieren primär auf statistischer Basis, das heißt, sie prognostizieren das nächstwahrscheinliche Token auf Basis von Milliarden Parametern, trainiert auf Terabytes von Textdaten. Doch der Zugriff auf Sprache ersetzt nicht das Verständnis der Welt. Genau hier setzt die Forderung nach einer Integration von World Models und symbolischem Schließen an. World Models beschreiben intern erzeugte Repräsentatione...

Symbolic Reasoning stellt eine grundlegende kognitive Technik dar, die auf der Manipulation von Symbolen und abstrakten Repräsentationen basiert, um Schlüsse zu ziehen, Probleme zu lösen und informierte Entscheidungen zu treffen. Diese Form der Verarbeitung spielt eine zentrale Rolle in der Geschichte der Erkenntnistheorie, in der Psychologie, in der Bildung sowie in der Entwicklung künstlicher Intelligenz. Sie erlaubt es, komplexe Sachverhalte in strukturierter Form zu analysieren, wodurch sie nicht nur für menschliches Denken, sondern auch für maschinelles Schließen unersetzlich geworden ist. Bereits Henri Bergson, französischer Philosoph des frühen 20. Jahrhunderts, prägte durch seine Ideen über Zeit und Gedächtnis das Verständnis von symbolischen Prozessen. In seinen Schriften über das "dauerhafte Werden" der Wirklichkeit betonte er die Relevanz dynamischer Prozesse. Jean Piaget griff diesen Ansatz auf und entwickelte daraus seine Theorie der kognitiven Entwicklung, in de...

Weltmodelle gelten als ein zentrales Element auf dem Weg zur Entwicklung einer allgemeinen künstlichen Intelligenz (Artificial General Intelligence, AGI). Seit den 1960er-Jahren haben sich diese Modelle von einfachen Repräsentationen hin zu hochkomplexen Simulationen gewandelt, die heute zentrale Funktionen in der Robotik, der Gesundheitsversorgung und in intelligenten Räumen einnehmen. Die Idee, eine maschinelle Repräsentation der Welt zu erzeugen, basiert auf der Notwendigkeit, Umweltbedingungen nicht nur zu verstehen, sondern auch vorherzusagen. Dies ist eine Grundvoraussetzung für Entscheidungsfindung und adaptives Verhalten von KI-Systemen. Yann LeCun, einer der einflussreichsten Forscher auf diesem Gebiet, betont in seiner Arbeit von 2022 die Bedeutung objektbasierter Weltmodelle, die Gedächtnisstrukturen und Sicherheitsmechanismen integrieren. Diese Modelle sollen nicht nur visuelle Informationen verarbeiten, sondern auch Handlungsabfolgen simulieren, die zu bestimmten Zielen fü...