Axel Fersen Blog

Artificial General Intelligence (AGI) and Artificial Super Intelligence (ASI) represent two concepts in the field of artificial intelligence. AGI refers to machines or systems that possess the ability to perform any intellectual task that a human can. This form of AI is characterized by its flexibility and universal applicability. AGI can learn from experience, integrate knowledge from various domains, solve complex problems. In contrast, ASI goes beyond AGI and describes a form of AI that not only replicates human intellectual capabilities but surpasses them. ASI would be able to solve problems and create innovations at a level far beyond human comprehension. It would exhibit superhuman intelligence in all areas, including scientific creativity, general wisdom, and social skills. ASI could independently develop new technologies and scientific theories, potentially having transformative impacts on society, the economy, and the environment. The primary difference between AGI and ASI lie...

Leopold Aschenbrenner, a pivotal member of OpenAI's Superalignment Team, was dedicated to ensuring the safety and control of advanced AI systems, closely collaborating with team leaders Ilya Sutskever and Jan Leike. However, in May 2024, following leadership changes and restructuring at OpenAI, Aschenbrenner, along with other team members including William Saunders and Pavel Izmailov, left the company. Following his departure, Aschenbrenner founded his own investment firm focusing on advanced AI systems (AGI), attracting notable investors such as Patrick Collison, John Collison, Nat Friedman, and Daniel Gross. Previously, he conducted research on economic growth at the Global Priorities Institute at the University of Oxford, establishing himself as an expert in AI safety and control. Aschenbrenner predicts that Artificial General Intelligence (AGI) will be achieved by 2027-2028, operating at a level comparable to the best human experts. Through continuous training and optimization,...

Das Wettrüsten mit autonomen Waffensystemen, die durch künstliche Intelligenz gesteuert werden, ist ein Thema von großer Brisanz, das sowohl ethische als auch sicherheitspolitische und technische Fragen aufwirft. Autonome Waffensysteme (AWS), auch als Lethal Autonomous Weapon Systems (LAWS) bekannt, sind in der Lage, ohne menschliches Zutun Ziele zu identifizieren und anzugreifen. Diese Technologie verspricht, die Kriegsführung grundlegend zu verändern, doch sie stellt die internationale Gemeinschaft vor große Herausforderungen in Bezug auf Regulierung und Kontrolle. Die Integration von KI in militärische Systeme schreitet rasant voran. KI kann große Datenmengen analysieren und Muster erkennen, die für Menschen oft schwer erfassbar sind. Dadurch wird KI zu einem unverzichtbaren Werkzeug für die Überwachung und Entscheidungsfindung auf dem Schlachtfeld. Beispielsweise können Militärsatelliten, Sensoren und Kameras Daten an eine KI übermitteln, die feindliche Aktivitäten erkennt und dara...

Leopold Aschenbrenner war ein zentrales Mitglied des Superalignment-Teams bei OpenAI, das sich der Sicherheit und Kontrolle fortschrittlicher KI-Systeme widmete. In enger Zusammenarbeit mit den Teamleitern Ilya Sutskever und Jan Leike spielte Aschenbrenner eine entscheidende Rolle in den Bemühungen des Teams. Im Mai 2024, nach Führungswechseln und Umstrukturierungen innerhalb des Unternehmens, verließ er jedoch OpenAI zusammen mit anderen Teammitgliedern, darunter William Saunders und Pavel Izmailov. Nach seinem Ausscheiden gründete Aschenbrenner seine eigene Investmentfirma, die sich auf fortschrittliche KI-Systeme (AGI) konzentriert und Investoren wie Patrick Collison, John Collison, Nat Friedman und Daniel Gross anzieht. Zuvor forschte er am Global Priorities Institute der Universität Oxford über Wirtschaftswachstum und etablierte sich als hochqualifizierter Experte für KI-Sicherheit und -Kontrolle. Aschenbrenner prognostiziert, dass die Entwicklung der Künstlichen Allgemeinen Intel...

Yoshua Bengio ist ein kanadischer Informatiker und führender Experte im Bereich der künstlichen Intelligenz (KI) und des maschinellen Lernens. Er ist Professor an der Universität von Montreal und wissenschaftlicher Direktor des Montreal Institute for Learning Algorithms (MILA). Bengio hat maßgeblich zur Entwicklung tiefer neuronaler Netzwerke beigetragen, die in Anwendungen wie Spracherkennung und Computer Vision eingesetzt werden. 2018 erhielt er zusammen mit Geoffrey Hinton und Yann LeCun den Turing Award für seine bedeutenden Beiträge zur KI-Forschung. Zudem setzt sich Bengio stark für die ethische Nutzung und Entwicklung von KI-Technologien ein, was seine Meinungen und Warnungen besonders relevant macht. Bengio warnte kürzlich vor den Gefahren der Entwicklung superintelligenter KI-Systeme. Er betont die dringende Notwendigkeit, Methoden zu finden, um hochleistungsfähige KI zu entwickeln, die keine Bedrohung für die Menschheit darstellt. Er ist besorgt, dass wirtschaftlicher und mil...

Yoshua Bengio is a Canadian computer scientist and one of the most prominent figures in the field of artificial intelligence (AI) and machine learning. He is a professor at the University of Montreal and the scientific director of the Montreal Institute for Learning Algorithms (MILA). Bengio has made significant contributions to the development of deep neural networks (deep learning), which are now widely used in applications such as speech recognition, computer vision, and natural language processing. In 2018, he was awarded the prestigious Turing Award alongside Geoffrey Hinton and Yann LeCun for their fundamental contributions to AI research. In addition to his scientific achievements, Bengio is deeply committed to the ethical use and development of AI technologies, which gives his opinions and warnings significant weight in both scientific and public discussions. In a recent warning, Bengio highlighted the potential dangers associated with the development of superintelligent AI sys...

Palantir hat einen Vertrag im Wert von 480 Millionen US-Dollar mit dem US-Verteidigungsministerium für die Weiterentwicklung des "Maven Smart Systems" (MSS) abgeschlossen. Dieses KI-System wird zur Identifizierung feindlicher Systeme in Einsatzgebieten verwendet und gilt als wesentlicher Bestandteil der sogenannten "Kill-Cloud" der USA. Ziel des Maven-Systems ist es, Kommandeure und anderes Personal durch schnellere und bessere Entscheidungen zu unterstützen sowie die Effizienz und Effektivität von Operationen zu verbessern. Maven nutzt künstliche Intelligenz, um große Datenmengen zu durchforsten, relevante Informationen zu extrahieren und den Analysten nahezu in Echtzeit zur Verfügung zu stellen. Diese Daten werden dann von der Einsatzgemeinschaft zur Validierung von Zielen verwendet. Das Pentagon plant, KI-Tools wie Maven in ein vernetztes Kampfkonzept zu integrieren, das Plattformen, Sensoren und Datenströme des US-Militärs und seiner internationalen Partner in e...

Jan Leike, ein prominenter Forscher und eine zentrale Figur bei OpenAI, hat kürzlich das Unternehmen verlassen. Sein Rücktritt hat in der KI-Community für Aufsehen gesorgt, da er seine Entscheidung mit tiefgreifenden Bedenken über die aktuelle Ausrichtung und Prioritäten des Unternehmens begründet hat. Leike, der seit vielen Jahren an vorderster Front der KI-Forschung steht, betonte die dringende Notwendigkeit, herauszufinden, wie wir KI-Systeme, die weitaus intelligenter sind als Menschen, steuern und kontrollieren können.  Leike trat OpenAI bei, weil er davon überzeugt war, dass es der beste Ort auf der Welt sei, um diese essentielle Forschung zu betreiben. Doch mit der Zeit entwickelte er erhebliche Meinungsverschiedenheiten mit der Führung des Unternehmens über dessen grundlegende Prioritäten. Diese Differenzen eskalierten schließlich zu einem Punkt, an dem er keine andere Wahl sah, als sich von OpenAI zu trennen. In seinen Abschiedsworten machte Leike deutlich, dass seiner Mei...

Die gängigen Berichte über die weltweiten Investitionen in Künstliche Intelligenz präsentieren alle das Bild, dass die USA nicht nur dominieren, sondern auch doppelt so viel investieren wie der gesamte Rest der Welt. Quelle: Statista ( Private Investitionen im Bereich Künstliche Intelligenz (KI) in ausgewählten Ländern im Jahr 2022 / in Mrd. USD) Die meisten Statistiken aus dem Jahr 2023 geben an, dass die USA jährlich etwa 45 Milliarden US-Dollar in KI investieren, während China auf etwa 11 Milliarden US-Dollar kommt. Auf den ersten Blick könnte man daraus schließen, dass die USA viermal so viel in KI investieren wie China. Doch dieser Vergleich ist irreführend, da er die unterschiedlichen Lebenshaltungskosten und Preisniveaus in den beiden Ländern nicht berücksichtigt. Um ein realistischeres Bild zu erhalten, ist es notwendig, die Kaufkraftparität (KKP) zu berücksichtigen. Die KKP gleicht die Unterschiede in den Preisniveaus aus und bietet daher ein präziseres Bild der tatsächlichen ...

China und die USA mobilisieren sämtliche Ressourcen, um die Vormachtstellung im Bereich der künstlichen Intelligenz zu erlangen. Ihre Investitionen in Mikrochips, humanoide Roboter, Rechenzentren und hochentwickelte Sprachmodelle, mit dem ausdrücklichen Ziel, als Erste eine Superintelligenz (AGI) zu verwirklichen, erreichen astronomische Höhen. In der deutschen Presse hingegen dominiert eine achselzuckende, ja ironisch lächelnde Ablehnung gegenüber der bisher größten technischen Umwälzung der Geschichte. Beispielhaft dafür ist ein Artikel aus Zeit Online vom 15. Mai über Ilya Sutskever und die abschließende Konklusion: "Auch ob AGI jemals entstehen wird, bleibt unsicher." Das Dramatische daran ist, dass dies die Meinung fast aller deutschen Kommentatoren ist. Selbst Briten (Google DeepMind) und Franzosen (Mistral) lassen die Deutschen weit hinter sich. Gerne wird bei Versäumnissen die Politik für den Abstieg verantwortlich gemacht, doch diesmal taugt der klassische Sündenbock...