Leopold Aschenbrenner war ein zentrales Mitglied des Superalignment-Teams bei OpenAI, das sich der Sicherheit und Kontrolle fortschrittlicher KI-Systeme widmete. In enger Zusammenarbeit mit den Teamleitern Ilya Sutskever und Jan Leike spielte Aschenbrenner eine entscheidende Rolle in den Bemühungen des Teams. Im Mai 2024, nach Führungswechseln und Umstrukturierungen innerhalb des Unternehmens, verließ er jedoch OpenAI zusammen mit anderen Teammitgliedern, darunter William Saunders und Pavel Izmailov. Nach seinem Ausscheiden gründete Aschenbrenner seine eigene Investmentfirma, die sich auf fortschrittliche KI-Systeme (AGI) konzentriert und Investoren wie Patrick Collison, John Collison, Nat Friedman und Daniel Gross anzieht. Zuvor forschte er am Global Priorities Institute der Universität Oxford über Wirtschaftswachstum und etablierte sich als hochqualifizierter Experte für KI-Sicherheit und -Kontrolle.
Aschenbrenner prognostiziert, dass die Entwicklung der Künstlichen Allgemeinen Intelligenz (AGI) bis 2027-2028 realisiert wird. Diese AGI wird auf einem Niveau arbeiten, das mit den besten menschlichen Experten vergleichbar ist. Durch kontinuierliches Training und Optimierung können sich diese Modelle zu einer noch höheren Form der Intelligenz entwickeln, die als Superintelligenz bekannt ist. Diese Superintelligenz wird die menschlichen Fähigkeiten in fast allen Bereichen übertreffen und könnte das globale Machtgefüge erheblich verändern.
Ein kritischer Aspekt in Aschenbrenners Analyse ist die erhebliche technologische und infrastrukturelle Investition, die für die Entwicklung der Superintelligenz erforderlich ist. Er erklärt, dass die Größe der Trainingscluster bis 2030 exponentiell zunehmen wird, was enorme Rechenleistung erfordert. Ein solches Cluster könnte bis zu 100 Gigawatt Strom verbrauchen, was mehr als 20% der gesamten US-Stromproduktion entspricht. Diese Entwicklung wird tiefgreifende Auswirkungen darauf haben, wie Unternehmen und Regierungen operieren, wobei frühe Investoren in diese Technologien erhebliche Wettbewerbsvorteile erlangen werden.
Geopolitisch wird die Kontrolle über die Superintelligenz zu einem entscheidenden Faktor im globalen Machtgleichgewicht. Länder, die diese Technologien dominieren, werden ihre wirtschaftliche und militärische Macht erheblich ausbauen. Aschenbrenner betont, dass China erhebliche Fortschritte gemacht hat und langfristig die USA überholen könnte, aufgrund seiner beeindruckenden industriellen Kapazität, die eine schnelle Mobilisierung großer Ressourcen ermöglicht. Dies könnte in einem langwierigen technologischen Wettrüsten entscheidend sein.
Die Entwicklung der Superintelligenz birgt jedoch erhebliche Sicherheitsrisiken. Aschenbrenner warnt davor, dass autoritäre Regime diese Technologien nutzen könnten, um ihre Macht zu konsolidieren und auszubauen, was zu neuen Waffensystemen und anderen gefährlichen Technologien führen könnte, die schwer zu kontrollieren sind. Besonders besorgniserregend ist die Möglichkeit, dass China durch staatlich unterstützte Spionage kritische technologische Informationen erlangen könnte. Die chinesische Regierung unternimmt erhebliche Anstrengungen, um amerikanische KI-Labore zu infiltrieren und wichtige Algorithmen und Modellgewichte zu stehlen, wodurch China schnell den technologischen Abstand verringern oder sogar die Führung übernehmen könnte.
Um diesen Herausforderungen zu begegnen, fordert Aschenbrenner strenge Sicherheitsmaßnahmen und verstärkte internationale Zusammenarbeit. Amerikanische Unternehmen und Forschungseinrichtungen müssen ihre Sicherheitsvorkehrungen drastisch erhöhen, um staatlich unterstützter Spionage zu widerstehen. Dazu gehören intensive Überwachungsmaßnahmen, die physische Trennung sensibler Systeme und strenge Sicherheitskontrollen für Mitarbeiter. Gleichzeitig ist es entscheidend, große Rechenzentren und Rechenkapazitäten in den USA aufzubauen und zu schützen, um die technologische Vormachtstellung zu sichern. Die Errichtung dieser Infrastruktur in autoritären Staaten wird als erhebliches Sicherheitsrisiko betrachtet.
Source: https://www.dwarkeshpatel.com/p/leopold-aschenbrenner
Kommentare
Kommentar veröffentlichen