Axel Fersen Blog

Die Vision einer KI, die sich selbstständig verbessert, ist nicht mehr nur Science-Fiction, sondern rückt dank neuer Forschung immer näher. Modelle wie "RStar Math", entwickelt von Microsoft, demonstrieren eindrucksvoll, wie kleine Sprachmodelle (Small Language Models, SLMs) durch sogenannte Recursive Self-Improvement (RSI) ihre Fähigkeiten iterativ erweitern können. Dabei wird das klassische Paradigma, bei dem große Modelle ihr Wissen auf kleinere übertragen (Model Distillation), obsolet. Stattdessen generieren diese kleinen Modelle eigenständig hochqualitative Trainingsdaten und optimieren sich autonom. Dies geschieht durch Methoden wie Monte-Carlo-Baumsuchen und das neuartige Prozesspräferenzmodell (PPM), das korrekte Lösungsansätze priorisiert und ineffiziente ausschließt. Die Leistungsfähigkeit solcher Ansätze ist beeindruckend: In Benchmark-Tests konnte die mathematische Genauigkeit von RStar Math von 58,8 % auf 90 % gesteigert werden. Bereits in der zweiten Iteration ü...

Elon Musk ist zweifellos eine der einflussreichsten Persönlichkeiten unserer Zeit – ein Mann, der Milliarden bewegt, Technologien dominiert und mit politischen Entscheidungen jongliert. Doch während seine Visionen auf den ersten Blick beeindruckend erscheinen, wirft sein ungebremster Einfluss grundlegende Fragen über Macht, Demokratie und die gerechte Verteilung technologischer Ressourcen auf.   Mit Projekten wie Tesla, SpaceX, Neuralink und „X“ hat Musk ein Imperium geschaffen, das nicht nur die Wirtschaft, sondern auch zentrale gesellschaftliche Infrastrukturen prägt. Insbesondere im Bereich der KI zeigt sich, wie eng die Grenzen zwischen Innovation und Machtkonzentration verlaufen. Musk erklärt selbstbewusst, dass KI bald in der Lage sein wird, jede kognitive Aufgabe besser zu bewältigen als ein Mensch – eine Technologie, deren Entwicklung er maßgeblich kontrolliert. Die Tatsache, dass KI künftig mit synthetischen Daten trainiert wird, die von denselben Unternehmen generiert wer...

Die Plattformen von Meta, insbesondere Facebook und Instagram, stehen seit Jahren im Fokus der Kritik, da sie als Katalysatoren für die Verbreitung von Hassrede und die daraus resultierende gesellschaftliche Polarisierung gelten. Deutsche Medienbeobachter heben hervor, dass die unzureichende Moderation solcher Inhalte nicht nur zu Beleidigungen führt, sondern auch das gesellschaftliche Klima nachhaltig negativ beeinflusst.   Hasskommentare im Internet sind ein wachsendes Problem. Laut einer Studie des Instituts für Demokratie und Zivilgesellschaft haben mehr als 80 Prozent der Teilnehmer Hate Speech im Netz gesehen, jede dritte Person wurde selbst beleidigt, und weit über 10 Prozent wurde Gewalt angedroht. Diese Zahlen verdeutlichen die allgegenwärtige Präsenz von Hassrede auf Plattformen wie Facebook und Instagram.   Die Moderation von Inhalten durch Meta wird häufig als unzureichend und inkonsistent kritisiert. Automatisierte Systeme erkennen oft den Kontext von Beiträgen ni...

Im Kern basiert o3 auf einer weiterentwickelten Transformer-Architektur, die mit modernsten Reinforcement-Learning-Techniken kombiniert wurde. Diese Technologien ermöglichen eine präzisere Sprachverarbeitung und eine wesentlich höhere Kontextualisierung, wodurch das Modell in der Lage ist, komplexe Anfragen effizient zu bearbeiten. Im Vergleich zu seinen Vorgängern, o1 und o2, zeigte o3 beeindruckende Fortschritte in den Bereichen mathematisches Denken, wissenschaftliche Analyse und Programmierung. Beispielsweise erzielte o3 auf der AIME 2024 einen herausragenden Score von 96,7 %, verglichen mit den 83,3 % von o1. In Codierungsaufgaben wie dem Codeforces-Wettbewerb erreichte o3 einen Score von 2727, ein signifikanter Sprung von den 1891 Punkten des Vorgängermodells.   Diese Leistungssteigerungen sind das Ergebnis eines zweistufigen Trainingsprozesses, der mit Supervised Fine-Tuning beginnt und anschließend mit Reinforcement Learning fortgesetzt wird. Während des Trainings wird das ...

DeepSeek hat sich in kürzester Zeit an die Spitze der KI-Welt katapultiert. Das 2023 in Hangzhou gegründete chinesische Unternehmen beeindruckt mit seinem neuesten Modell, DeepSeek V3, sowohl durch die rasante Entwicklungsgeschwindigkeit als auch durch die außergewöhnlichen Ergebnisse. Besonders bemerkenswert ist die Nutzung von ChatGPT zur Optimierung der Trainingsdaten. Ein zentraler Faktor für den Kostenvorteil war die Verwendung strukturierter Anfragen bei ChatGPT während der Entwicklungsphase. DeepSeek nutzte öffentlich zugängliche Datensätze, darunter generierte Inhalte von GPT-4, um seine Modelle schneller und günstiger zu trainieren. Diese Methode ermöglichte eine steile Lernkurve und führte dazu, dass das Unternehmen innerhalb von nur zwei Monaten ein konkurrenzfähiges Modell entwickelte – trotz der US-Handelsbeschränkungen, die den Zugang zu modernster Hardware erschwerten. Mit 671 Milliarden Parametern, von denen 37 Milliarden pro Token aktiv sind, setzt DeepSeek V3 neue Maß...

Das Konzept „Prompting Parties to Become Even More Efficient“ beschäftigt sich mit den Strategien, die Organisationen anwenden, um ihre betriebliche Effizienz und Produktivität zu steigern – ein entscheidender Aspekt in der heutigen Geschäftswelt. Effizienz maximiert Ressourcen, senkt Kosten und steigert die Rentabilität, während sie gleichzeitig das Wirtschaftswachstum und die Nachhaltigkeit fördert. Dieses Ziel ist besonders relevant, da Unternehmen sich an technologische Fortschritte und sich ändernde Marktanforderungen anpassen müssen, was innovative Ansätze erforderlich macht. Historisch gesehen haben sich die Praktiken des Projektmanagements erheblich weiterentwickelt, wobei traditionelle Systeme zunehmend durch Methoden wie Agile ersetzt wurden. Diese Übergänge stießen oft auf Herausforderungen, darunter Widerstand aus fest verankerten Strukturen, wie dies bei großen Unternehmen wie globalen Finanzinstituten zu beobachten war. Dennoch zeigten schrittweise Veränderungen und Pilo...

Elon Musk diktiert den Europäern, wie sie zu wählen haben. Im Augenblick kümmert er sich um die Deutschen, weil am 23. Februar Bundestagswahlen sind. Worum geht es dem Führer des US-Effizienzbüros? Das aktuelle Handelsdefizit der US-Amerikaner gegenüber der Bundesrepublik liegt bei 63 Mrd. Euro. Da hilft es am besten, wenn die Deutschen die EU verlassen, weil man ihnen dann die Konditionen noch besser diktieren kann. Aus diesem Grund empfiehlt er, die AfD zu wählen, weil das wichtigste Ziel der AfD ist, die EU zu verlassen. mit Neuralink diktiert es sich leichter Natürlich wissen das gebildete Wähler auch und werden sich nicht sonderlich davon beeinflussen lassen. Nicht jetzt, aber auch das kann sich ändern, denn Elon Musk arbeitet am Meinungsdiktat. Der Angriff auf Wikipedia lässt erahnen, was kommen mag, wenn bis zu den kommenden US-Midterms im November 2026 der anstehende juristische Bürgerkrieg gewonnen werden würde. Das berüchtigte Project 2025 wird im Februar starten. Es wird mit...

Im Jahr 2025 wird der Wettbewerb im Bereich der Künstlichen Intelligenz (KI) ein Schlüsselelement der globalen Technologiegeschichte sein. Die wichtigsten Akteure, darunter OpenAI, Google DeepMind, xAI, Baidu, deepseek, Mistral, Meta und weitere, stehen vor der Herausforderung, nicht nur technologische Innovationen voranzutreiben, sondern auch die ethischen, regulatorischen und wirtschaftlichen Rahmenbedingungen zu meistern. Die Frage, wer die Spitzenposition im KI-Sektor einnehmen wird, ist nicht nur eine Frage der technischen Überlegenheit, sondern auch der strategischen Ausrichtung, Marktakzeptanz und globalen Präsenz. OpenAI, gegründet im Jahr 2015, hat mit der Entwicklung fortschrittlicher Sprachmodelle wie GPT-4o und dem innovativen Modell O1, das über erweiterte "Reasoning"-Fähigkeiten verfügt, bereits bedeutende Fortschritte erzielt. Die Partnerschaft mit Microsoft, die im Jahr 2023 eine Investition von 10 Milliarden US-Dollar in OpenAI tätigte, hat die Bewertung des ...