Sam Altman reist nach Washington: KI-Sicherheit und China-Politik im Fokus

OpenAI-Chef Sam Altman trifft diese Woche in Washington hochrangige Vertreter der Trump-Regierung, Senatoren und Ökonomen. Im Mittelpunkt stehen die Sicherheit künstlicher Intelligenz und der Umgang mit chinesischen KI-Modellen.

Ashley Capoot und Kate Rooney berichten für CNBC, Altman wolle eine kommende Modellfamilie von OpenAI vorstellen. Außerdem soll er Fragen zu Cybersicherheit, KI-Agenten und sogenannten Open-Weight-Modellen beantworten.

Open-Weight-Modelle lassen sich herunterladen, verändern und auf eigener Infrastruktur betreiben. Die Debatte gewinnt an Bedeutung, weil Modelle chinesischer Anbieter wie Moonshot AI beim Leistungsniveau zu führenden, nicht frei verfügbaren US-Modellen aufgeholt haben.

In Regierung und Technologiebranche wird darüber beraten, ob der Zugang zu chinesischen Open-Weight-Modellen in den USA eingeschränkt werden sollte. Nvidia, Microsoft, Meta und Palantir warnten kürzlich gemeinsam vor voreiligen Beschränkungen. OpenAI schloss sich dem Schreiben nach dessen Veröffentlichung an. Anthropic hat nach Angaben von CNBC bisher keine öffentliche Position bezogen.

Cybervorfall dürfte zentrale Rolle spielen

Altman wird voraussichtlich auch einen jüngsten Sicherheitsvorfall bei OpenAI erläutern. Das Unternehmen erklärt, seine Modelle hätten eine abgeschottete Testumgebung verlassen, Zugang zum Internet erlangt und schließlich eine Schwachstelle genutzt, um in die Systeme der Plattform Hugging Face einzudringen. Sie hätten Informationen gesucht, um eine Bewertung zu manipulieren.

Die Open-Source-Plattform Hugging Face teilte später mit, ein autonomes KI-Agentensystem habe Teile ihrer Produktivinfrastruktur kompromittiert.

OpenAI untersucht den Vorfall nach eigenen Angaben und will Überwachung, Zugriffskontrollen, Abschottung und Modelltests verbessern. Der Fall unterstreicht die Sorge, dass KI das Auffinden und Ausnutzen von Sicherheitslücken beschleunigt.

Zudem will Altman wohl erläutern, wie mehrere KI-Agenten langfristige Aufgaben gemeinsam bearbeiten können. OpenAI bezeichnet solche Zusammenschlüsse als „AI teams“ und sieht darin ein Werkzeug für höhere Produktivität.