Hinton’s düstere Prophezeiung

Die Entwicklung künstlicher Intelligenz hat in den letzten Jahrzehnten eine beispiellose Dynamik erreicht und die Art und Weise, wie Menschen arbeiten, kommunizieren und Kriege führen, tiefgreifend verändert. Es besteht ein breiter wissenschaftlicher Konsens darüber, dass KI das Potenzial hat, menschliche Intelligenz zu übertreffen, wie dies von Experten wie Geoffrey Hinton, einem der Pioniere auf diesem Gebiet, unterstrichen wird. Er weist darauf hin, dass die Frage nicht mehr lautet, ob KI die menschliche Intelligenz übertreffen wird, sondern wann dies geschehen wird. Hinton schätzt, dass es innerhalb der nächsten fünf bis zwanzig Jahre eine signifikante Wahrscheinlichkeit (ungefähr 50%) gibt, dass wir mit dem Problem konfrontiert werden, dass KI-Systeme versuchen könnten, die Kontrolle zu übernehmen.

Hinter dieser Einschätzung stehen eine Reihe technischer Fortschritte und die Tatsache, dass KI-Modelle wie große Sprachmodelle mittlerweile eine immense Menge an Wissen und kognitiven Fähigkeiten besitzen. Laut Hinton sind diese Modelle weit mehr als statistische Tricks; sie sind die besten Theorien, die derzeit zur Erklärung der Funktionsweise des menschlichen Gehirns vorliegen. Besonders besorgniserregend ist die Fähigkeit, dass neuronale Netzwerke in unzähligen Kopien repliziert und in parallelen Prozessen unterschiedliche Datensätze analysieren können. Eine solche Effizienz in der Wissensaufnahme und -verarbeitung ist für den Menschen unerreichbar.

Während die Kontrolle über KI in vielen Bereichen als wissenschaftliches Problem und gesellschaftliche Herausforderung diskutiert wird, offenbart sich die größte Gefahr in ihrer militärischen Nutzung. Historisch gesehen haben technologische Fortschritte in der Rüstungsindustrie oft zu einem Paradigmenwechsel in der Kriegsführung geführt. Ein bekanntes Beispiel ist das Manhattan-Projekt, das zur Entwicklung der Atombombe führte. Hierbei handelte es sich um eine Waffe, die nicht nur das Kräfteverhältnis während des Zweiten Weltkriegs verschob, sondern auch eine weltweite nukleare Bedrohung einleitete. Ein ähnliches Szenario scheint sich derzeit im Kontext der KI zu entfalten. Hinton betont, dass die militärischen Anwendungen von KI von nahezu allen regulatorischen Bestimmungen ausgenommen sind. Dies gilt sowohl für die Gesetzgebung der Europäischen Union als auch für nationale Gesetze in den G7-Staaten. Diese Ausnahme lässt Regierungen einen breiten Spielraum, KI in der Verteidigung und im Krieg einzusetzen.

Der russische Präsident Wladimir Putin sagte bereits 2017: „Wer auch immer KI kontrolliert, wird die Welt kontrollieren.“ Diese Aussage verdeutlicht die geopolitischen Implikationen, die mit dem Wettlauf um KI-Vorherrschaft verbunden sind. China investiert derzeit massiv in die Erforschung und Entwicklung militärischer KI und könnte den Westen in naher Zukunft überholen. Die Verwendung von KI zur Generierung von Zielvorgaben in militärischen Konflikten ist bereits Realität. Es wird befürchtet, dass die nächste Eskalationsstufe der Einsatz autonomer Waffensysteme sein könnte, die eigenständig tödliche Entscheidungen treffen können. Die Existenz solcher „Roboter-Soldaten“ oder „tödlicher Drohnen“ wirft ethische und sicherheitspolitische Fragen auf, die vergleichbar mit der Debatte um chemische Waffen sind. Während für chemische Waffen internationale Abkommen existieren, die ihre Verwendung regulieren, gibt es bislang keine derartigen Regelungen für KI.

Der rapide Fortschritt in der KI-Entwicklung wird durch den intensiven Wettbewerb zwischen Technologiekonzernen wie Google und Microsoft weiter beschleunigt. Google, ehemals Vorreiter in der Sicherheitsethik, wurde von den Marktmechanismen gezwungen, sein Engagement für Sicherheitsrichtlinien aufzugeben, um mit Microsoft Schritt zu halten. Dieser Wettbewerb und die geopolitischen Rivalitäten zwischen Nationen wie den USA, China und Russland verstärken das Risiko eines unkontrollierten Fortschritts in der Entwicklung von Militär-KI.

Angesichts dieser Entwicklungen ist es von entscheidender Bedeutung, sowohl die wissenschaftliche Gemeinschaft als auch die Politik zu mobilisieren, um Kontrollmechanismen für KI zu etablieren. Es ist jedoch fraglich, ob die derzeitigen Regulierungen ausreichen werden. Hinton zeigt sich enttäuscht von der Tatsache, dass bestehende Gesetzesinitiativen zwar erste Ansätze bieten, aber keine durchsetzbaren Mechanismen beinhalten. Der Ruf nach einem internationalen Abkommen, ähnlich der Genfer Konventionen, wird zunehmend lauter. Dies könnte jedoch erst dann realisiert werden, wenn „sehr unschöne Dinge“ geschehen sind, so Hinton.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Artificial Intelligence in the Focus of the Nobel Prizes

The recent Nobel Prize awards in the fields of Physics and Chemistry highlight how artificial intelligence has penetrated science and how closely its methods are intertwined with the fundamental principles of natural sciences. In 2024, pioneers were recognized in both Physics and Chemistry, whose discoveries and developments have elevated AI to new heights. What is remarkable is not only the significance of these works but also the close connection between physical and chemical principles and the algorithms that enable AI. But what exactly is causing AI to play such a dominant role in scientific research today?

In Physics, John Hopfield and Geoffrey Hinton were honored for their work on neural networks. What might initially appear as an algorithmic achievement is deeply rooted in the principles of physics. In the 1980s, Hopfield developed the first model of a neural network that seeks out a low-energy state. This method is based on a physical concept derived from statistical mechanics and enables the network to learn associative connections. Similar to particles moving toward a low-energy state in a system, the neural network learns to strengthen or weaken node connections by adjusting their weights. This is not only a method inspired by physics but also the foundation of machine learning.

Hinton took it a step further by applying the Boltzmann law, which describes how systems prefer certain states based on energy. Based on this, he developed the so-called Boltzmann machine, a neural network that operates with probabilities. The introduction of this statistical method enabled generative models that are now used in many areas, from language processing to image generation. What Hinton and Hopfield created was not just a tool for computer science, but a model based on physical principles that revolutionized AI research.

Equally profound is the contribution of this year's Nobel laureates in the field of Chemistry. Demis Hassabis and John Jumper from Google DeepMind developed the AI system AlphaFold, which can predict protein folding with unprecedented accuracy. This prediction was long considered one of the greatest challenges in protein chemistry, as the three-dimensional structure of a protein is crucial to its function. AlphaFold uses neural networks to predict folding solely from the amino acid sequence – a task that previously took years with conventional methods. With AI, this process has been reduced to minutes. The fact that this is now possible using neural networks shows how closely AI and biochemical research are intertwined.

Here too, it is again physical principles that make AI's success possible. Neural networks like AlphaFold are based on the interactions between amino acids that interact with each other in the protein chain. The AI system learns from hundreds of thousands of known protein structures how these interactions affect the folding of the chain. It is then able to recognize patterns in the data and predict the shape a protein will take. This process is similar to the statistical methods Hinton used for the Boltzmann machine and is another example of how physical models can be integrated into chemistry and biology.

But why is AI receiving so much attention now? The answer lies in a series of technological advancements that have come together in recent years. Only the increasing computing power and the availability of large datasets have made it possible for AI models like AlphaFold or neural networks in physics to function at all. In both physics and chemistry, immense amounts of data are generated today, whether in the analysis of particles in high-energy physics or in the study of biomolecules in biochemistry. AI provides the ability to process this data and identify patterns that human researchers could hardly detect.

https://www.axelfersen.com/

 

Künstliche Intelligenz im Fokus der Nobelpreise

Die jüngsten Nobelpreisverleihungen im Bereich der Physik und Chemie verdeutlichen, wie Künstliche Intelligenz in die Wissenschaft eingedrungen ist und gleichzeitig wie eng ihre Methoden mit den Grundprinzipien der Naturwissenschaften verwoben sind. Im Jahr 2024 wurden sowohl im Bereich der Physik als auch der Chemie Pioniere ausgezeichnet, die mit ihren Entdeckungen und Entwicklungen KI auf neue Höhen gehoben haben. Bemerkenswert ist dabei nicht nur die Tragweite dieser Arbeiten, sondern auch die enge Verbindung zwischen physikalischen und chemischen Prinzipien und den Algorithmen, die KI ermöglichen. Doch was genau führt dazu, dass KI heute eine so dominante Rolle in der wissenschaftlichen Forschung einnimmt?

In der Physik wurden John Hopfield und Geoffrey Hinton für ihre Arbeiten an neuronalen Netzwerken ausgezeichnet. Was auf den ersten Blick wie eine algorithmische Errungenschaft aussieht, ist tief in den Prinzipien der Physik verwurzelt. Hopfield entwickelte in den 1980er Jahren das erste Modell eines neuronalen Netzwerks, das auf der Suche nach einem energiearmen Zustand agiert. Diese Methode beruht auf einem physikalischen Konzept, das aus der statistischen Mechanik stammt, und ermöglicht es dem Netzwerk, assoziative Verknüpfungen zu erlernen. Wie Teilchen, die sich in einem System zu einem möglichst energiearmen Zustand bewegen, lernt das neuronale Netzwerk durch die Gewichtung von Knoten Verbindungen zu stärken oder zu schwächen. Dies ist nicht nur eine physikalisch inspirierte Methode, sondern auch der Grundstein für maschinelles Lernen.

Hinton ging einen Schritt weiter und nutzte das Boltzmann-Gesetz, das beschreibt, wie Systeme bestimmte Zustände je nach Energie bevorzugen. Auf dieser Basis entwickelte er die sogenannte Boltzmann-Maschine, ein neuronales Netzwerk, das mit Wahrscheinlichkeiten arbeitet. Die Einführung dieser statistischen Methode ermöglichte generative Modelle, die heute in vielen Bereichen Anwendung finden, von der Sprachverarbeitung bis hin zur Bilderzeugung. Was Hinton und Hopfield also schufen, war nicht nur ein Werkzeug für die Informatik, sondern ein auf physikalischen Prinzipien basierendes Modell, das die KI-Forschung revolutionierte.

Ähnlich tiefgreifend ist der Beitrag der diesjährigen Nobelpreisträger im Bereich der Chemie. Demis Hassabis und John Jumper von Google DeepMind entwickelten das KI-System AlphaFold, das die Faltung von Proteinen mit beispielloser Genauigkeit vorhersagen kann. Diese Vorhersage galt lange als einer der größten Herausforderungen der Proteinchemie, da die dreidimensionale Struktur eines Proteins für seine Funktion entscheidend ist. AlphaFold nutzt neuronale Netzwerke, um die Faltung allein aus der Aminosäuresequenz vorherzusagen – eine Aufgabe, die mit herkömmlichen Methoden Jahre in Anspruch nahm. Durch den Einsatz von KI konnte dieser Prozess auf Minuten verkürzt werden. Dass dies nun mithilfe neuronaler Netzwerke möglich ist, zeigt, wie stark KI und die biochemische Forschung miteinander verwoben sind.

Auch hier sind es wieder physikalische Prinzipien, die den Erfolg der KI möglich machen. Neuronale Netzwerke wie AlphaFold basieren auf den Wechselwirkungen zwischen Aminosäuren, die in der Proteinkette miteinander interagieren. Das KI-System lernt anhand von hunderttausenden bekannten Proteinstrukturen, wie sich diese Wechselwirkungen auf die Faltung der Kette auswirken. Dabei ist es in der Lage, Muster in den Daten zu erkennen und vorherzusagen, welche Form ein Protein annehmen wird. Dieser Prozess ähnelt den statistischen Methoden, die Hinton für die Boltzmann-Maschine verwendet hat, und ist ein weiteres Beispiel dafür, wie physikalische Modelle in die Chemie und Biologie integriert werden können.

Doch warum erfährt KI gerade jetzt so viel Aufmerksamkeit? Die Antwort liegt in einer Reihe von technologischen Fortschritten, die in den letzten Jahren zusammengekommen sind. Erst die steigende Rechenleistung und die Verfügbarkeit großer Datensätze machten es möglich, dass KI-Modelle wie AlphaFold oder neuronale Netzwerke in der Physik überhaupt funktionieren können. In der Physik und Chemie fallen heute immense Datenmengen an, sei es bei der Analyse von Teilchen in der Hochenergiephysik oder bei der Erforschung von Biomolekülen in der Biochemie. KI bietet die Möglichkeit, diese Datenmengen zu verarbeiten und Muster zu erkennen, die menschliche Forscher kaum identifizieren könnten.

Link Empfehlungen:

• Forschung & Lehre: Nobel Preis für Physik 2024
• Scinexx: Chemie-Nobelpreis für KI-gestützte Proteinforschung

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

GPT-Next: Das 100-mal stärkere Modell von OpenAI soll bereits 2024 erscheinen

OpenAI Japan hat kürzlich einen Ausblick auf die Zukunft der KI gegeben, als der CEO Tadao Nagasaki auf dem KDDI Summit 2024 das zukünftige Modell GPT-Next vorstellte. Diese Veranstaltung, die vermutlich im April 2024 stattfand, bot die Gelegenheit, die technologischen Fortschritte und das Engagement von OpenAI in Asien hervorzuheben. Die Ankündigung von GPT-Next wurde als großer Schritt in der KI-Entwicklung gewertet, da es 100-mal leistungsfähiger als das aktuelle GPT-4-Modell sein soll.

Die Präsentation auf dem KDDI Summit zeigt, dass OpenAI seine Präsenz in Japan und darüber hinaus verstärken will. Dies kommt auch nach der Eröffnung des ersten OpenAI-Büros in Tokio und der Einführung eines für die japanische Sprache optimierten GPT-4-Modells. Die Vorstellung von GPT-Next ist jedoch nicht nur ein technologischer Durchbruch, sondern verdeutlicht auch die strategischen Pläne von OpenAI, die Weiterentwicklung von künstlicher Intelligenz im asiatischen Markt voranzutreiben.

Spannend in diesem Zusammenhang ist auch die Nennung von „Projekt Orion“, das als nächste Entwicklungsstufe nach Strawberry angesehen wird und womöglich das Fundament für GPT-5 oder sogar GPT-6 bilden könnte. Dieses Projekt zielt darauf ab, die bereits Fähigkeiten von Strawberry noch weiter zu verbessern, insbesondere im Bereich der Logik und des menschlichen Denkens. Die Zusammenarbeit zwischen diesen verschiedenen Projekten zeigt deutlich, wie OpenAI die Grenzen von KI ständig erweitert und die Grundlage für zukünftige Fortschritte in Richtung Artificial General Intelligence (AGI) legt. 

Link Empfehlungen:

• ZDNET: 

  OpenAI's lead Japan exec teases 'GPT Next'

• TechStyle News: OpenAI Japan CEO Reveals Details on GPT-Next

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Eric Schmidt in Stanford: NVIDIA, China, 300 Milliarden Dollar

Eric Schmidt, der ehemalige CEO von Google, hat vor wenigen Tagen während einer Veranstaltung an der Stanford Business School zur Zukunft der Künstlichen Intelligenz einige bemerkenswerte Prognosen gemacht, die tiefgreifende Auswirkungen auf Wirtschaft, Politik und Gesellschaft postulieren.

Schmidt prognostiziert, dass die führenden Unternehmen im Bereich der KI in den kommenden Jahren gewaltige Summen investieren müssen, um im globalen Wettbewerb bestehen zu können. Konkret spricht er von Investitionen zwischen 10 Milliarden und 100 Milliarden US-Dollar, die notwendig sein werden, um in der nächsten Entwicklungsstufe der KI-Technologie mitzumischen. Sam Altman, der CEO von OpenAI, schätzt sogar, dass bis zu 300 Milliarden US-Dollar erforderlich sein könnten, um die Herausforderungen zu meistern, die vor uns liegen. Diese enormen Summen sind notwendig, um die riesigen Rechenzentren zu bauen und mit der Energie zu versorgen, die für die nächste Generation von KI-Modellen benötigt wird. Schmidt betont, dass Länder wie die USA und Kanada, die über große Energiequellen und eine starke technologische Infrastruktur verfügen, in dieser Entwicklung eine Schlüsselrolle spielen werden.

Ein zentrales Element der zukünftigen KI-Entwicklung, das Schmidt hervorhebt, ist die Einführung von sogenannten Text-to-Action-Systemen. Diese Systeme werden es ermöglichen, dass KI-Modelle direkte Aktionen basierend auf komplexen Textanfragen ausführen. Schmidt sieht dies als einen der größten technologischen Durchbrüche der nächsten ein bis zwei Jahre. Ein weiteres bedeutendes technologisches Merkmal, das Schmidt anspricht, sind große Kontextfenster, die als eine Art Kurzzeitgedächtnis für KI-Modelle fungieren. Diese könnten in naher Zukunft so umfangreich werden, dass sie KI-Systemen eine völlig neue Form von Gedächtnisleistung ermöglichen, was ihre Fähigkeiten und Anwendungen erheblich erweitern wird.

Eine weitere bemerkenswerte Prognose betrifft NVIDIA, das Unternehmen, das derzeit den Markt für KI-Hardware dominiert. Schmidt erklärt, dass NVIDIA dank seiner CUDA-Optimierungen in einer so starken Position ist, dass ein Großteil der zukünftigen Investitionen in KI-Hardware in ihre Technologie fließen könnte. NVIDIA hat sich zu einem fast unumgänglichen Akteur in der Branche entwickelt, und wenn die prognostizierten 300 Milliarden US-Dollar in die nächste Welle der KI-Innovationen fließen, könnte NVIDIA der Hauptnutznießer sein.

Auf geopolitischer Ebene betrachtet Schmidt die Rivalität zwischen den USA und China als einen der entscheidenden Faktoren für die Zukunft der KI. Er betont, dass die USA derzeit einen technologischen Vorsprung von etwa 10 Jahren gegenüber China in Bezug auf fortschrittliche Chiptechnologien (Sub-5nm) haben. Dieser Vorsprung ist entscheidend für den Erhalt der globalen technologischen Dominanz der USA. Schmidt sieht die USA und China als die beiden Hauptakteure in einem technologischen Wettrüsten, das die nächsten Jahrzehnte bestimmen wird. Nur wenige andere Länder verfügen über die Ressourcen und das Know-how, um in diesem Bereich mitzuhalten.

Im Hinblick auf die Arbeitswelt geht Schmidt davon aus, dass die Produktivität von Softwareentwicklern durch den Einsatz von KI-Tools in den nächsten Jahren mindestens verdoppelt wird. Dies könnte tiefgreifende Veränderungen in der Arbeitswelt mit sich bringen, insbesondere in Berufen, die wenig menschliches Urteilsvermögen erfordern. Schmidt betont, dass diese Entwicklung sowohl Chancen als auch Herausforderungen birgt, insbesondere in Hinblick auf den Umgang mit den Risiken und Sicherheitslücken, die mit der zunehmenden Verbreitung von KI-Systemen einhergehen. Er spricht von der Notwendigkeit, Unternehmen zu gründen, die sich darauf spezialisieren, KI-Systeme auf ihre Sicherheit zu testen und mögliche Bedrohungen frühzeitig zu erkennen.

Link Empfehlungen:

• FAZ: Erst rauben, den Rest machen die Anwälte
• t3n: Eric Schmidt über seinen Homeoffice-Kommentar
  
• Handelsblatt: Ex-Google-Chef Schmidt sagt Nvidia eine große Zukunft voraus

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Die Evolutionsagenda von Elon Musk

Die Entwicklung von Gehirn-Computer-Interfaces (BCIs), angeführt von Projekten wie Elon Musks Neuralink, verspricht Möglichkeiten zur Verbesserung der menschlichen Fähigkeiten und zur Behandlung neurologischer Erkrankungen. Doch mit diesem Fortschritt kommen auch Fragen auf, die nach der Autonomie des Individuums und den Implikationen für die menschliche Identität, die durch die Verschmelzung von Gehirn und Maschine aufgeworfen werden.

Der Begriff der Autonomie, wie er in der Philosophie und Ethik verstanden wird, bezieht sich auf die Fähigkeit eines Individuums, unabhängige Entscheidungen zu treffen, frei von externem Zwang. BCIs stellen dieses Konzept auf eine harte Probe. Der Philosoph Thomas Metzinger, bekannt für seine Arbeiten zur Philosophie des Geistes und Bewusstseinsforschung, hat hervorgehoben, dass die direkte Manipulation neuronaler Aktivität durch BCIs das Potenzial hat, die Entscheidungsfreiheit eines Individuums zu beeinträchtigen. Dies wirft die beunruhigende Frage auf: Inwieweit bleibt eine Person mit einem BCI noch autonom, wenn externe Eingriffe in ihre neuronalen Prozesse möglich sind?

Eine Studie des Nuffield Council on Bioethics aus dem Jahr 2019 betonte, dass BCIs, die direkt auf das Gehirn einwirken, die „fundamentale Freiheit des Denkens und Entscheidens“ bedrohen könnten. Besonders kritisch wird dies, wenn BCIs dazu genutzt werden könnten, Verhaltensweisen zu kontrollieren oder Wünsche zu beeinflussen. Experimentelle Studien an Tieren haben bereits gezeigt, dass durch elektrische Stimulation bestimmter Gehirnregionen Verhalten modifiziert werden kann. Zum Beispiel konnte die Forschergruppe um Miguel Nicolelis 2013 zeigen, dass es möglich ist, Ratten mithilfe von BCIs zu steuern, indem ihre motorischen Neuronen direkt stimuliert werden. Diese Experimente werfen die Frage auf, ob ähnliche Technologien eines Tages bei Menschen eingesetzt werden könnten – und wenn ja, welche Konsequenzen dies hätte.

Ein weiteres zentrales ethisches Problem ist die Veränderung der menschlichen Identität durch BCIs. Der Begriff der Identität ist eng mit dem Selbstbild und dem Bewusstsein einer Person verbunden. Wenn Gedanken und Erinnerungen durch Maschinen manipuliert oder gar verändert werden könnten, stellt sich die Frage, inwieweit das Selbstbild eines Individuums noch authentisch ist. Philosophisch betrachtet, hat sich die Idee der „Erweiterung des Geistes“ (Extended Mind) bereits etabliert, wie sie von den Philosophen Andy Clark und David Chalmers in den späten 1990er Jahren formuliert wurde. Sie argumentieren, dass der menschliche Geist nicht auf das Gehirn beschränkt ist, sondern durch externe Hilfsmittel erweitert werden kann. Doch BCIs gehen einen Schritt weiter, indem sie die Grenze zwischen Mensch und Maschine vollständig verwischen.

Thomas Metzinger, ein prominenter Philosoph und Bewusstseinsforscher, warnt vor den Implikationen dieser technologischen Entwicklung. In seinem Werk „The Ego Tunnel“ beschreibt Metzinger, wie das menschliche Selbstbewusstsein als ein dynamischer Prozess verstanden werden muss, der durch BCIs tiefgreifend verändert werden könnte. Die Möglichkeit, dass Maschinen nicht nur Gedanken, sondern auch das Selbstbild eines Individuums formen könnten, stellt eine radikale Herausforderung für das traditionelle Verständnis der menschlichen Identität dar.

Diese ethischen Überlegungen werden noch komplexer, wenn man die Perspektive des Transhumanismus einbezieht, eine philosophische Strömung, die das Streben nach der Überwindung menschlicher Beschränkungen durch Technologie befürwortet. Nick Bostrom, ein führender Vertreter des Transhumanismus, sieht in BCIs eine Chance, die kognitiven Fähigkeiten des Menschen drastisch zu erweitern und somit die Menschheit auf die nächste Evolutionsstufe zu heben. Doch Kritiker warnen davor, dass solche Bestrebungen die menschliche Würde und das traditionelle Verständnis von Menschlichkeit untergraben könnten. Julian Savulescu, ein Bioethiker an der Universität Oxford, argumentiert, dass die Entwicklung solcher Technologien strikt reguliert werden müsse, um sicherzustellen, dass sie nicht zu einer Spaltung der Gesellschaft führen.

Elon Musk, die treibende Kraft hinter Neuralink, verfolgt mit seinem Projekt nicht nur technologische, sondern auch tiefgreifende gesellschaftliche und möglicherweise evolutionäre Ziele. Musk ist bekannt für seinen unerschütterlichen Glauben an die transformative Kraft von Technologie, seine Überzeugung, dass die Menschheit sich radikal verändern muss, und seinen hemmungslosen Kontrolldrang, um in seinem Glauben eine zunehmend komplexe und gefährliche Welt zu überleben. Musk hat wiederholt betont, dass BCIs notwendig sein könnten, um die kognitiven Fähigkeiten des Menschen zu erweitern und so eine „Symbiose“ mit KI zu ermöglichen. Es bleibt die Frage, wer hier wohl die größte Gefahr für die Menschheit darstellen könnte.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Der US-amerikanische Oligarch Elon Musk zieht mal wieder vor Gericht

Elon Musk hat erneut eine Klage gegen OpenAI und dessen CEO Sam Altman eingereicht und damit einen weiteren Rechtsstreit gegen seine ehemaligen Partner wieder aufgenommen. In seiner neuen Klage, die er vor einem Bundesgericht in Nordkalifornien eingereicht hat, behauptet Musk, er sei von Altman und den anderen Mitbegründern von OpenAI in die Irre geführt worden, was er als „Täuschung von Shakespeare’schen Ausmaßen“ bezeichnet.

Die Auseinandersetzung zwischen Musk und OpenAI ist nicht neu. Bereits in der Vergangenheit hatte Musk eine ähnliche Klage eingereicht, diese jedoch ohne Erklärung zurückgezogen. Nun erhebt er erneut schwere Vorwürfe gegen seine ehemaligen Partner, denen er vorwirft, die ursprünglichen Ideale der gemeinnützigen Organisation OpenAI verraten zu haben. Musk behauptet, dass Altman und seine Mitstreiter den Zweck der Organisation, die Entwicklung von Künstlicher Intelligenz zum Wohle der Menschheit, zugunsten von Profitinteressen geopfert hätten. Besonders kritisch sieht Musk die Partnerschaft von OpenAI mit Microsoft, die seiner Meinung nach die ursprüngliche Mission der Organisation pervertiert habe.

Musk und Altman waren 2015 gemeinsam an der Gründung von OpenAI beteiligt. Doch die Beziehung zwischen den beiden Tech-Titanen verschlechterte sich zunehmend, was letztlich dazu führte, dass Musk das Unternehmen verließ. In seiner Klage führt Musk an, dass die Veränderungen in der Struktur von OpenAI, insbesondere der Wandel von einer gemeinnützigen zu einer gewinnorientierten Organisation, gegen die Gründungsvereinbarung verstoßen hätten. Er wirft Altman und seinen Mitstreitern vor, ihn gezielt manipuliert zu haben, um sich selbst zu bereichern.

OpenAI wies die Anschuldigungen entschieden zurück und bezeichnete Musks Klage als „zusammenhangslos“ und „frivol“. In einer früheren Reaktion auf ähnliche Vorwürfe veröffentlichte das Unternehmen E-Mails von Musk, die nahelegen, dass er selbst den Wandel zu einer gewinnorientierten Struktur unterstützt habe, um die enormen finanziellen Mittel aufzubringen, die für die Weiterentwicklung der KI-Technologie notwendig seien.

Eine mögliche Motivation hinter Musks erneuter Attacke könnte in seiner wachsenden Besorgnis über die Richtung liegen, die die Künstliche Intelligenz insgesamt nimmt. Musk ist seit langem ein lautstarker Kritiker der potenziellen Gefahren von KI und hat wiederholt vor den existenziellen Risiken gewarnt, die sie für die Menschheit darstellen könnte. Es ist denkbar, dass er diese Klage nutzt, um seine Position zu untermauern und zu versuchen, die Kontrolle über eine Technologie zurückzugewinnen, die er für gefährlich hält, wenn sie in den falschen Händen liegt.

Zudem könnte Musks Angriff auch durch persönliche und geschäftliche Motive befeuert sein. Seit seinem Ausscheiden aus OpenAI hat er mit xAI eine eigene KI-Firma gegründet, die allerdings bisher nicht den gleichen Erfolg erzielt hat wie OpenAI mit ChatGPT. Die erneute Klage könnte also auch ein Versuch sein, die Reputation seiner Konkurrenz zu schädigen und seine eigene Position im hart umkämpften KI-Markt zu stärken. Indem er die ethischen Bedenken in den Vordergrund stellt, könnte Musk versuchen, sowohl öffentlichen als auch regulatorischen Druck auf OpenAI auszuüben, was ihm wiederum strategische Vorteile verschaffen könnte.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

Die Herausforderungen der Energieversorgung durch die massive Nachfrage von Generativer KI

Der massive Energiebedarf von Generativer KI überlastet unser Stromnetz. Die Nachfrage nach leistungsstarken Servern, die das Internet und die Cloud-Infrastruktur unterstützen, war noch nie so hoch. Diese Server stehen nicht irgendwo in der Wolke, sondern sind physisch in riesigen Datenzentren untergebracht, die niemals aufhören können, Social-Media-Inhalte zu streamen, Fotos zu speichern und, neuerdings, datenintensive Anwendungen wie Chatbots zu trainieren und zu betreiben. Diese Anforderungen haben zu einem exponentiellen Anstieg des Energieverbrauchs geführt.

Ein einzelner ChatGPT-Anfrage benötigt nahezu zehnmal so viel Energie wie eine typische Google-Suche und entspricht dem Energieverbrauch einer 5-Watt-LED-Lampe für eine Stunde. Die Generierung eines AI-Bildes kann so viel Energie verbrauchen wie das Laden eines Smartphones. Die Emissionen der Hyperscaler, die Datenzentren für AI-Anwendungen bauen, sind enorm gestiegen. Schätzungen aus dem Jahr 2019 ergaben, dass das Training eines großen Sprachmodells so viel CO2 produziert wie der gesamte Lebenszyklus von fünf benzinbetriebenen Autos. Selbst wenn genügend Energie erzeugt werden kann, ist unser alterndes Stromnetz zunehmend nicht in der Lage, die Last zu bewältigen. In Spitzenzeiten im Sommer könnte es zu Stromausfällen kommen, wenn Datenzentren ihre Last nicht reduzieren.

Die Nachfrage nach Datenzentren steigt jährlich um 15 bis 20% und könnte bis 2030 16% des gesamten US-Stromverbrauchs ausmachen, gegenüber 2,5% vor der Einführung von ChatGPT im Jahr 2022. Diese Entwicklung erfordert massive Investitionen in die Strominfrastruktur. Viele große Tech-Unternehmen, darunter Google und Microsoft, bauen ihre eigenen Datenzentren, was zu einem Anstieg der Emissionen führt. Google's Treibhausgasemissionen stiegen von 2019 bis 2023 um fast 50%, teilweise aufgrund des Energieverbrauchs ihrer Datenzentren, obwohl diese 1,8-mal energieeffizienter sind als typische Datenzentren. Microsofts Emissionen stiegen von 2020 bis 2024 um fast 30%.

Um den Energiebedarf zu decken, werden Datenzentren an Standorten gebaut, an denen die Stromversorgung gesichert ist. Einige Unternehmen experimentieren auch mit der Eigenstromerzeugung vor Ort. OpenAI-CEO Sam Altman hat in Solar-Startups und in Unternehmen investiert, die Mini-Kernreaktoren entwickeln. Microsoft hat einen Vertrag mit Helion für Fusionsenergie ab 2028 unterzeichnet, und Google hat sich mit einem Geothermie-Startup zusammengetan, um Strom aus tiefen Erdschichten zu gewinnen. Auch Vantage, ein führender Anbieter von Rechenzentrumsinfrastrukturen, hat in Virginia ein 100-Megawatt-Erdgaskraftwerk gebaut, um ein dediziertes Datenzentrum zu versorgen, das vollständig unabhängig vom öffentlichen Netz arbeitet.

Neben der Energieerzeugung ist die Übertragung der Energie ein großes Problem. Veraltete Transformatoren sind eine häufige Ursache für Stromausfälle. Lösungen wie kleine Sensoren, die an Transformatoren angebracht werden, können Ausfälle vorhersagen und die Lastverteilung optimieren. In Hochleistungsgebieten wie Nord-Virginia mussten Stromunternehmen neue Verbindungen zu Datenzentren pausieren, um mit der Nachfrage Schritt zu halten.

Kühlung ist ein weiterer kritischer Aspekt. Die Server erzeugen immense Hitze, die durch Luft- oder Wasserkühlung abgeleitet werden muss, um Überhitzung zu vermeiden. Bis 2027 könnte der Wasserbedarf der AI-Kühlung viermal so hoch sein wie der gesamte jährliche Wasserverbrauch Dänemarks. Einige Datenzentren setzen auf alternative Kühlmethoden wie Flüssigkühlung direkt an den Chips. Microsoft hat ein Projekt zur Unterwasserkühlung seiner Server gestoppt, während andere weiterhin nach effizienten Kühllösungen suchen.

Die Lösung der Energie- und Wasserprobleme der AI erfordert umfassende Ansätze, einschließlich effizienterer Hardware. ARM-basierte spezialisierte Prozessoren, die weniger Energie verbrauchen als herkömmliche x86-Kerne, bieten eine vielversprechende Alternative. ARM-Chips sind für ihre Energieeffizienz bekannt und werden zunehmend von Tech-Giganten wie Google, Microsoft, Oracle und Amazon genutzt. Eine Steigerung der Effizienz um 15% könnte die Energieversorgung von Millionen Haushalten sichern.

 

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

SearchGPT: OpenAIs Offensive gegen Googles Suchmonopol

OpenAI präsentiert die Suchmaschine SearchGPT. Sie nutzt KI-Modelle, um Benutzern direkte Antworten auf ihre Fragen zu liefern, anstatt eine Liste von Links bereitzustellen. Es kombiniert die Sprachmodelle von OpenAI mit Echtzeitdaten aus dem Internet. Nutzer könnten Fragen stellen und in einem natürlichen Dialogformat Folgefragen formulieren, was die Interaktion intuitiver und benutzerfreundlicher gestalten könnte. OpenAI plant, diese Technologie langfristig in ChatGPT zu integrieren.

Die Ankündigung von SearchGPT hat Auswirkungen auf den Markt gezeigt, wobei die Aktie der Google-Muttergesellschaft Alphabet nach der Bekanntgabe um 3 Prozent fiel. OpenAI kooperiert für dieses Projekt mit mehreren renommierten Medienunternehmen, darunter Axel Springer, News Corp und die Financial Times. Diese Partnerschaften sollen sicherstellen, dass die von SearchGPT bereitgestellten Informationen zuverlässig und aktuell sind. Robert Thompson, CEO von News Corp, betonte, dass OpenAI verstanden habe, dass sich die KI-Suche auf vertrauenswürdige Quellen stützen müsse.

Der Prototyp von SearchGPT ist derzeit nur für eine ausgewählte Gruppe von Nutzern zugänglich, die sich auf eine Warteliste setzen lassen können. OpenAI sammelt aktuell Feedback, um das System weiter zu optimieren. Ein besonderes Merkmal von SearchGPT ist die Transparenz der Quellenangaben; die Suchmaschine gibt an, woher die Informationen stammen, und verlinkt direkt zu den entsprechenden Websites.

In der Vergangenheit hatten kleinere Konkurrenten wie Neeva und Perplexity AI versucht, Google herauszufordern, bisher ohne nachhaltigen Erfolg. Neeva stellte den Betrieb ein, und Perplexity wurde dafür kritisiert, Inhalte von Websites ohne Erlaubnis der Betreiber erfasst zu haben. Microsoft hat kürzlich damit begonnen, KI-Zusammenfassungen in seine Suchmaschine Bing zu integrieren, um den Benutzern schnelle Antworten auf einfache Fragen zu liefern. Google verwendet bereits seit Mai ähnliche KI-Funktionen, musste jedoch Anpassungen vornehmen, da fehlerhafte und teilweise absurde Antworten zu Kritik führten.

OpenAI hat hohe Erwartungen an SearchGPT. Sam Altman, CEO von OpenAI, der die Ankündigung von SearchGPT persönlich leitete, äußerte die Überzeugung, dass die Internetsuche erheblich verbessert werden könne. Er berichtete, dass er selbst positiv überrascht gewesen sei, wie sehr er SearchGPT der traditionellen „Oldschool-Suche“ vorziehe. Diese Aussage unterstreicht das Potenzial von SearchGPT, die Art und Weise der Informationssuche grundlegend zu verändern.

Die langfristigen Auswirkungen auf den Markt und die Position von Google bleiben abzuwarten. Viele Website-Betreiber und Medienhäuser sind besorgt, dass direkte Antworten durch Suchmaschinen den Traffic zu ihren eigenen Seiten verringern könnten. Google hat jedoch argumentiert, dass die KI-gestützten Antworten zu einer Erhöhung des Datenverkehrs führen könnten, indem sie den Nutzern effizientere und präzisere Informationen liefern.

Link Empfehlungen:

• The Guardian: The OpenAI search engine
  
• New York Times: OpenAI Is Testing an A.I.-Powered Search Engine
  
• BBC: ChatGPT reveals search feature in Google challenge
  
• Heise: OpenAI testet KI-Suchmaschine SearchGPT
  

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/

The Morpheus: Deglobalisierung im Kontext von KI und Chipproduktion

Die wachsende Deglobalisierung im Kontext von Künstlicher Intelligenz (KI) und Chipproduktion ist ein Phänomen, das tiefgreifende Auswirkungen auf die globale Wirtschaft hat. In den letzten Jahren wurde zunehmend klar, dass Wissen Macht ist und KI als Fabrik für Wissen fungiert. Dies hat weitreichende Konsequenzen, insbesondere im Handelsstreit zwischen den USA und China, der zunehmend durch KI und die Produktion von Halbleitern geprägt wird.

Historisch gesehen gab es drei Hauptarten von Wissen: Wissen selbst, jemanden kennen, der Wissen hat, und wissen, wen man fragen muss, um Informationen zu finden. Mit dem Aufstieg von Suchmaschinen wie Google wurde die dritte Kategorie revolutioniert, aber die Fähigkeit, neue Forschung durchzuführen, blieb begrenzt. Hier kommt KI ins Spiel. Technologien wie Googles AlphaFold, das Proteinstrukturen vorhersagen kann, oder AutoDMP von Nvidia, das Chip-Layouts optimiert, haben das Potenzial, bahnbrechende wissenschaftliche Entdeckungen zu ermöglichen.

Im wirtschaftlichen und militärischen Kontext spielt KI eine immer wichtigere Rolle. Der chinesische Präsident sieht es als entscheidend an, an der Spitze der KI-Entwicklung zu stehen, um sowohl militärisch als auch ökonomisch Weltspitze zu sein. Diese Ambitionen führten zu einem intensiven Handelskrieg rund um KI. Ein bemerkenswertes Beispiel ist die USA, die während der Amtszeiten von Donald Trump und Joe Biden China als ihren größten wirtschaftlichen und militärischen Konkurrenten identifizierten. Als Reaktion darauf wurden Exportbeschränkungen für Chips und KI-Technologien verhängt, was die globale Lieferkette erheblich beeinflusste.

Die Chipproduktion ist ein zentraler Bestandteil dieses Konflikts. Die USA sind führend im Bereich der Chipdesigns und Patente, während Länder wie Japan und die Niederlande wichtige Materialien und Maschinen liefern. Die tatsächliche Herstellung der Chips findet jedoch größtenteils in Taiwan bei Unternehmen wie TSMC (Taiwan Semiconductor Manufacturing Company) statt. Dies führte dazu, dass die USA und die EU Maßnahmen ergriffen, um die heimische Chipproduktion zu stärken und weniger abhängig von ausländischen Lieferketten zu sein. Der im August 2022 verabschiedete US-amerikanische CHIPS Act ist ein Beispiel dafür. Mit Investitionen von über 52 Milliarden Dollar soll die heimische Produktion und Forschung gestärkt werden, um die nationale Sicherheit zu gewährleisten.

China hat ebenfalls Maßnahmen ergriffen, um seine Abhängigkeit von ausländischen Chips zu verringern. Unternehmen wie ByteDance, bekannt für TikTok, arbeiten mit US-Chipherstellern wie Broadcom zusammen, um eigene KI-Chips zu entwickeln. Trotz der Exportbeschränkungen konnten sie Fortschritte erzielen und eine eigene Chipproduktion aufbauen, die langfristig ihre Unabhängigkeit stärken könnte.

Der wachsende Druck auf die globale Lieferkette führte zu einem florierenden Untergrundmarkt für Chips. Berichte zeigen, dass beispielsweise Nvidia-Grafikkarten illegal nach China geschmuggelt werden, um den Bedarf an leistungsstarker Hardware für KI-Anwendungen zu decken. Diese Schwarzmarktaktivitäten verdeutlichen, wie stark die Nachfrage nach fortschrittlichen Chips ist und wie weit Länder gehen, um ihre technologische Entwicklung voranzutreiben.

Die Deglobalisierung im Bereich der KI und Chipproduktion hat auch Auswirkungen auf den Datenschutz und die Datensouveränität. Während US-Unternehmen wie Google und Apple ihre neuesten Produkte zunehmend exklusiv auf dem US-Markt anbieten, versucht die EU, strengere Datenschutzbestimmungen durchzusetzen, um die Unabhängigkeit zu wahren. Dies führt zu einer Fragmentierung des Marktes, bei der Länder und Regionen zunehmend isolierte Technologien entwickeln und einsetzen.

Abonnieren Sie den monatlichen AGI Newsletter in LinkedIn

https://www.axelfersen.com/