Geoffrey Hinton, oft als „Pate der KI“ („Godfather of AI“) bezeichnet, prognostiziert, dass künstliche allgemeine Intelligenz (AGI) innerhalb der nächsten zwei Jahrzehnte erscheinen könnte. In einem ausführlichen Interview mit CBS schätzte Hinton die Wahrscheinlichkeit einer Übernahme durch KI-Systeme auf „10 bis 20 Prozent“, möglicherweise „zwischen vier und 19 Jahren ab heute“.
Der kürzlich mit dem Nobelpreis für Physik ausgezeichnete Hinton betonte, dass sich KI schneller entwickelt habe als von ihm erwartet. Besonders besorgniserregend findet er KI-Agenten, die „Dinge in der Welt tun können“, was er als gefährlicher einstuft als Systeme, die lediglich Fragen beantworten.
Der renommierte KI-Forscher wies auf mehrere positive potenzielle Ergebnisse hin, falls die AGI-Entwicklung sicher verläuft, darunter revolutionäre Verbesserungen im Gesundheitswesen, in der Bildung und bei der Bekämpfung des Klimawandels. „Im Gesundheitswesen wird KI viel besser darin sein, medizinische Bilder zu lesen“, erklärte Hinton und fügte hinzu, dass KI als überlegene Hausärzte fungieren könnte, mit Erfahrungen aus „Millionen von Röntgenbildern“ und Kenntnissen über seltene Erkrankungen.
Trotz dieser Vorteile warnte Hinton vor ernsthaften Risiken. Er kritisierte große KI-Unternehmen dafür, dass sie Profite der Sicherheit vorziehen und „für weniger KI-Regulierung werben“. Er äußerte seine Enttäuschung über Googles Entscheidung, militärische Anwendungen von KI zu unterstützen, und zeigte sich besorgt über OpenAIs Abkehr von seiner ursprünglich sicherheitsorientierten Mission.
Hinton sprach sich entschieden gegen die Veröffentlichung von KI-Modellgewichten durch Unternehmen wie Meta und OpenAI aus. Er verglich diese Praxis mit dem Verkauf von spaltbarem Material für Atomwaffen: „Sobald man die Gewichte veröffentlicht, hat man die Hauptbarriere für die Nutzung dieser Dinge beseitigt.“
Zum Thema Arbeitsplatzverlust hat Hinton seine Position seit früheren Interviews geändert. „KI ist in den letzten Jahren so viel besser geworden, dass ich sehr besorgt wäre, wenn ich einen Job in einem Call-Center hätte“, sagte er und erweiterte seine Bedenken auf Routinejobs in den Bereichen Recht, Journalismus und Buchhaltung.
Hinton erklärte, dass seine wachsende Besorgnis über KI während seiner Zeit bei Google entstand, wo ihm bewusst wurde, dass digitale KI-Modelle einen grundlegenden Vorteil gegenüber Menschen beim Informationsaustausch haben. „Diese großen Sprachmodelle, die auf digitalen Systemen laufen, können Billionen von Bits pro Sekunde kommunizieren. Sie sind also milliardenfach besser als wir beim Informationsaustausch. Das hat mich erschreckt.“
Als praktische Reaktion auf seine Bedenken erwähnte Hinton, dass er seine finanziellen Vermögenswerte auf mehrere Banken verteilt, um sich vor potenziellen KI-gestützten Cyberangriffen zu schützen.
Er kam zu dem Schluss, dass öffentliches Bewusstsein und Druck auf Regierungen entscheidend sein werden, um eine sicherere KI-Entwicklung zu gewährleisten. „Wenn die Öffentlichkeit erkennt, was geschieht, wird sie großen Druck auf Regierungen ausüben, dass die KI-Unternehmen diese Technologie sicherer entwickeln“, erklärte Hinton.