Sean Goedecke warnt vor einer kommenden Massenkatastrophe durch KI-Sprachmodelle. Der Autor zieht Parallelen zu frühen Verkehrsmitteln. Eisenbahnen verursachten nach 17 Jahren ihre erste große Katastrophe, die Luftfahrt nach 11 Jahren. ChatGPT startete im November 2022.
Als größte Gefahr sieht der Experte KI-Agenten. Diese Systeme arbeiten selbstständig ohne menschliche Aufsicht, anders als Chatbots. Aktuelle KI-Agenten übernehmen bereits Recherche und Programmierung. Ihre Fähigkeiten verbessern sich schnell.
Mögliche Katastrophen könnten etwa automatisierte Regierungssysteme sein, die fälschlicherweise Sozialleistungen oder Gesundheitsversorgung verweigern. Der Autor nennt Australiens Robodebt-Skandal von 2016 als Beispiel für schädliche Automatisierung.
Zusätzlich warnt er vor manipulierten KI-Modellen in künftigen Robotern. Falsch ausgerichtete Systeme könnten gewalttätig werden.
