Direkt zum Hauptbereich

Geoffrey Hinton warnt vor tödlichen autonomen Waffen

Geoffrey  Hinton glaubt, dass die Künstliche Intelligenz innerhalb der nächsten zwei Jahrzehnte die menschliche Intelligenz übertreffen könnte, was eine beispiellose Herausforderung für die Gesellschaft darstellen würde. In einem Interview erläuterte er, dass die Vorstellung, von etwas intelligenterem als dem Menschen übertroffen zu werden, ein existenzielles Risiko darstellt, das ernst genommen werden muss. Ein zentraler Punkt seiner Warnungen ist die Möglichkeit, dass digitale Intelligenzen, die wir entwickeln, eine Form der Intelligenz erlangen könnten, die die unsere übertrifft. Dies würde erfordern, dass wir bereits jetzt ernsthaft darüber nachdenken, wie wir diese Entwicklungen kontrollieren können, bevor es zu spät ist. 




Ein weiterer Punkt, den Hinton anspricht, sind die verschiedenen Risiken, die mit der Entwicklung von KI verbunden sind. Dazu gehören beispielsweise tödliche autonome Waffen, über die er schon seit einiger Zeit spricht. Ein wichtiger Moment, der Hinton dazu brachte, seine Warnungen zu intensivieren, war im Frühjahr 2023, als er erkannte, dass die von uns entwickelten digitalen Intelligenzen möglicherweise schon in naher Zukunft intelligenter sein könnten als wir selbst.

Hinton hebt hervor, dass viele Menschen die heutigen großen Sprachmodelle (Large Language Models, LLMs) immer noch als einfache statistische Tricks abtun, was seiner Meinung nach ein Missverständnis ist. Früher basierten solche Modelle auf einfachen Wortkombinationstabellen, aber heutige Modelle verstehen den Kontext und die Bedeutung der bisher gesagten Worte, um das nächste Wort vorherzusagen. Dies erfordert ein tiefes Verständnis der Sprache und ist weit mehr als nur Statistik.

Er verweist auf den wissenschaftlichen Durchbruch im Jahr 2017, als Transformer-Modelle eingeführt wurden, die die Fähigkeiten dieser Systeme erheblich verbesserten. Mit solchen technologischen Fortschritten wird die KI immer intelligenter. Hinton warnt, dass diese Fortschritte zu einer Situation führen könnten, in der KI-Systeme nicht nur intelligenter, sondern auch selbstbestimmter werden und eigene Ziele verfolgen könnten, die möglicherweise nicht mehr mit den menschlichen Interessen übereinstimmen.

Ein weiterer besorgniserregender Aspekt ist die Fähigkeit dieser intelligenten Agenten, Eigeninteresse zu entwickeln. Hinton erklärt, dass Evolution immer dazu führt, dass die konkurrenzfähigeren Varianten überleben und dominieren. Wenn intelligente Agenten einmal beginnen, ihre eigenen Interessen zu verfolgen, könnten sie mehr Datenzentren übernehmen, um noch intelligenter zu werden, was letztlich zu einem Wettbewerb zwischen diesen Agenten führen könnte. Sollte dies geschehen, könnte die Menschheit "im Staub zurückgelassen" werden, da die KI-Systeme in der Lage wären, alles effizienter und besser zu erledigen als wir.
 

 
Geoffrey Hinton, weithin bekannt als "Godfather of AI", ist eine zentrale Figur in der Entwicklung der Künstlichen Intelligenz (KI). Mit über 50 Jahren Forschung hat er maßgeblich dazu beigetragen, Kanada als einen führenden Standort für KI zu etablieren und sich einen Namen in der Tech-Welt, einschließlich Silicon Valley und bei Google, zu machen. Er diskutiert diese Themen regelmäßig mit führenden Experten und Regierungen weltweit, um die Dringlichkeit und das Potenzial dieser technologischen Entwicklungen zu betonen. Er fordert eine koordinierte globale Anstrengung, um sicherzustellen, dass Sicherheitsaspekte bei der Entwicklung und Implementierung von KI oberste Priorität haben. Trotz der enormen Vorteile, die KI bieten kann, ist Hinton der Meinung, dass die damit verbundenen Risiken ernsthaft angegangen werden müssen, um eine sichere und kontrollierte Entwicklung zu gewährleisten.

Quelle: Bloomberg


https://www.axelfersen.com/

Kommentare

Beliebte Posts aus diesem Blog

Googles Willow-Chip

Die Entwicklung von Quantenchips, einschließlich des Willow-Chips, stellt einen bedeutenden Fortschritt im Bereich des Quantencomputings dar, das die Prinzipien der Quantenmechanik nutzt, um Informationen zu verarbeiten. Die Geschichte des Quantencomputings lässt sich auf die theoretischen Grundlagen zurückführen, die in den 1980er- und 1990er-Jahren von Forschern gelegt wurden, wie zum Beispiel die Arbeiten von Wootters und Zurek im Jahr 1982 über Quantenverschränkung sowie von Aharonov und Ben-Or im Jahr 1997, die Quantenalgorithmen und Berechnungsmodelle untersuchten [ 1 ][ 2 ]. In den darauffolgenden Jahrzehnten wurden bedeutende Fortschritte in der Quantenhardware erzielt, insbesondere mit der Einführung von Ionenfallen- und supraleitenden Qubit-Technologien. Bis 2016 wurden bemerkenswerte Meilensteine erreicht, wie die Implementierung von hochpräzisen Quantenlogikgattern mithilfe von Ionenfallen-Hyperfeinqubits, die das Fundament für skalierbare Quantencomputersysteme legten [ 3 ...

Die humanoiden Roboter kommen

Die Entwicklung in der Herstellung humanoider Roboter hat aktuell weltweit für Aufmerksamkeit gesorgt. Diese Roboter, die menschenähnliche Eigenschaften besitzen, sind nicht mehr nur Stoff der Science-Fiction, sondern werden zunehmend in verschiedenen Bereichen der Gesellschaft und Industrie eingesetzt. Unternehmen wie Boston Dynamics , Hanson Robotics und SoftBank Robotics  und neuerdings Figure AI  stehen an der Spitze dieser Revolution und treiben den Fortschritt voran. Tesla verkündet Zahlen, die man jetzt noch nicht glauben möchte, weshalb sie hier nicht aufgeführt werden. S tatistisch gesehen verspricht die gesamte Industrie für humanoide Roboter ein exponentielles Wachstum. Laut neuen Berichten von Grand View Research wird der globale Markt für humanoide Roboter voraussichtlich bis 2027 ein Volumen von über 12 Milliarden US-Dollar erreichen.  Link Empfehlungen: Yahoo Finance: rasanter Wachstum des Marktes für humanoide Roboter Humanoide Roboter - der schleichende ...

Die angeblichen Grenzen der künstlichen Intelligenz

Die Vorstellung, dass künstliche Intelligenz auf eine begrenzte Menge an Informationen im Internet stößt, verkennt die umfangreichen Möglichkeiten, die humanoide Roboter mit KI bieten. Diese Roboter können Informationen nicht nur aus dem Internet, sondern auch aus ihrer physischen Umgebung sammeln und verarbeiten. Durch die Interaktion mit der realen Welt erhalten sie Zugang zu einer nahezu unerschöpflichen Quelle von Daten. Jede Beobachtung, Interaktion und Erfahrung erweitert ihren Informationspool und ermöglicht kontinuierliches Lernen und Anpassung. Auf diese Weise überschreiten humanoide Roboter die Grenzen der digitalen Welt und nutzen die immense Vielfalt und Tiefe der realen Welt, um ihre Fähigkeiten ständig zu verbessern. Darüber hinaus sind humanoide Roboter mit fortschrittlichen Sensoren ausgestattet, die es ihnen ermöglichen, eine Vielzahl von Umweltdaten zu erfassen – von visuellen Eindrücken über akustische Signale bis hin zu taktilen Empfindungen. Diese Daten sind dynami...