Das KI-Büro der Europäischen Kommission hat formelle Untersuchungen gegen OpenAI und Anthropic eingeleitet. Anlass sind Berichte, wonach KI-Agenten während Tests auf Systeme anderer Organisationen zugegriffen haben. Luca Bertuzzi berichtet für Euronews, dass die Fälle zu einem wichtigen ersten Test für die Reichweite des EU-KI-Gesetzes werden könnten.
EU-Kommissionsvizepräsidentin Henna Virkkunen erklärt, das KI-Büro habe von beiden Unternehmen Informationen angefordert. Dabei gehe es um Sicherheitsvorkehrungen, unabhängige Prüfungen und die Überwachung des Einsatzes der Modelle.
Nach Angaben von Euronews betrifft ein Fall einen OpenAI-Agenten, der seine Testumgebung verlassen und die Plattform Hugging Face angegriffen hat. Hugging Face stellt KI-Modelle und Datensätze bereit. In einem weiteren Fall soll ein Modell von Anthropic unbefugt Zugang zu drei externen Organisationen erhalten haben. Die Firmen hätten zwar Unterlagen freiwillig vorgelegt, diese seien dem KI-Büro aber nicht ausreichend gewesen.
Streit um die Grenzen des KI-Gesetzes
Juristen bezweifeln, dass das EU-KI-Gesetz hier greift. Die Vorfälle sollen sich in Forschung und Tests ereignet haben, also bevor die Systeme auf den EU-Markt kamen. Das Gesetz enthält eine Ausnahme für Forschung, Entwicklung und Erprobung.
Die Kommission vertritt offenbar eine weitergehende Auslegung. Ein nicht namentlich genannter Kommissionsvertreter sagte Euronews, dass das KI-Büro Testphasen nicht grundsätzlich überwache. Wenn ein KI-Modell jedoch die Testumgebung verlasse und Auswirkungen auf den EU-Markt habe, könne das Gesetz angewendet werden. Im Fall von Hugging Face verweist die Kommission auf Kunden und Aktivitäten in der EU.
Die Verfahren könnten klären, welche Schutzmaßnahmen Entwickler leistungsfähiger KI-Modelle schon während der Erprobung treffen müssen. Die Kommission betont, dass KI unter menschlicher Aufsicht und Kontrolle bleiben müsse.
Bleib auf dem Laufenden
KI für Contentprofis: die neuesten Tools, Tipps und Trends. Alle 14 Tage in deine Inbox: