Regulierung

KI-Experte fordert staatliche Regulierung und Aufsichtsbehörde

Der Kognitionswissenschaftler Gary Marcus plädiert für eine umfassende Regulierung künstlicher Intelligenz in den USA. In einem Interview mit dem Wall Street Journal erklärt Marcus, dass die aktuellen KI-Systeme, besonders Large Language Models, erhebliche technische und moralische Risiken bergen. Marcus schlägt ein dreistufiges Regulierungskonzept vor: eine KI-Behörde auf Ministeriumsebene, ein FDA-ähnlicher Zulassungsprozess für KI-Systeme und ein …

Weiterlesen …

US-Justizministerium will Googles Anthropic-Investition rückgängig machen

Das US-Justizministerium hat einen Vorschlag eingereicht, der Google zwingen würde, seine 2-Milliarden-Dollar-Investition in das KI-Unternehmen Anthropic aufzulösen. Dies berichteten Josh Sisco und Leah Nylen für Bloomberg. Der Vorschlag ist Teil eines kartellrechtlichen Verfahrens gegen Google. Das Ministerium will verhindern, dass Google in Unternehmen investiert, die Kontrolle über Verbraucher-Suchanfragen haben. Dies betrifft auch KI-basierte Suchprodukte. Google …

Weiterlesen …

EU veröffentlicht ersten Entwurf der Richtlinien für KI-Systeme

Die Europäische Union hat einen ersten Entwurf für einen Verhaltenskodex vorgestellt, der die Compliance-Anforderungen für Anbieter von KI-Systemen regelt. Das Dokument legt fest, wie Unternehmen wie OpenAI, Google und Meta die Bestimmungen des EU KI-Gesetzes erfüllen müssen, berichtet TechCrunch. Die Transparenzanforderungen treten ab August 2025 in Kraft, während strengere Risikobeurteilungen für besonders leistungsstarke KI-Systeme ab …

Weiterlesen …

KI-Whistleblower fordern rechtlichen Schutz vor Vergeltungsmaßnahmen

Mitarbeiter von Unternehmen, die an künstlicher Intelligenz forschen, fordern vom US-Kongress spezielle Whistleblower-Schutzmaßnahmen. Sie argumentieren, dass die rasanten Fortschritte in der KI-Technologie Gefahren mit sich bringen, die sie unter den geltenden Gesetzen nicht legal aufdecken können, berichtet Bloomberg Law. Experten betonen die Notwendigkeit von Regulierungen, da die Unternehmen selbst die Risiken nicht ausreichend angehen werden. …

Weiterlesen …

Anthropic fordert gezielte KI-Regulierung

KI-Startup Anthropic, bekannt für seinen Assistenten Claude, drängt Regierungen dazu, innerhalb der nächsten 18 Monate Maßnahmen zur KI-Regulierung zu ergreifen. Ziel sei es, die wachsenden Risiken durch immer leistungsfähigere KI-Systeme einzudämmen, heißt es in einem Artikel auf der offiziellen Website des Unternehmens. Das Unternehmen argumentiert, dass eine eng fokussierte Regulierung dazu beitragen kann, die Vorteile …

Weiterlesen …

KI-Richtlinien für US-Behörden angekündigt

US-Präsident Biden will erstmals detaillierte Richtlinien für den Einsatz von Künstlicher Intelligenz in Regierungsbehörden einführen. Wie David E. Sanger in der New York Times berichtet, soll ein nationales Sicherheitsmemorandum „Leitplanken“ für die Nutzung von KI-Werkzeugen setzen – etwa bei Entscheidungen über Nuklearwaffen oder Asylanträge. Die neuen Vorgaben sollen helfen, Regierungsabläufe durch KI zu beschleunigen und …

Weiterlesen …

Test deckt Schwachstellen führender KI-Modelle auf

Ein neues Tool hat überprüft, inwiefern führende KI-Modellen dem KI-Gesetz der EU genügen, und dabei deutliche Schwachstellen entdeckt. Wie Martin Coulter für Reuters berichtet, schneiden einige Modelle großer Technologieunternehmen in Bereichen wie Cybersicherheit und diskriminierender Output schlecht ab. Das von LatticeFlow AI entwickelte „Large Language Model Checker“ bewertet KI-Modelle in Dutzenden Kategorien. Während die Modelle …

Weiterlesen …

Kaliforniens Gouverneur lehnt KI-Sicherheitsgesetz ab

Kaliforniens Gouverneur Gavin Newsom hat ein umstrittenes KI-Sicherheitsgesetz abgelehnt. Der Demokrat begründete seine Entscheidung damit, dass der Gesetzentwurf nur die größten und teuersten KI-Modelle berücksichtige, ohne deren Einsatz in Hochrisikosituationen zu beachten. Newsom betonte, dass auch kleinere Modelle kritische Entscheidungen treffen könnten, während größere Modelle oft für risikoarme Aktivitäten eingesetzt würden. Das abgelehnte Gesetz hätte …

Weiterlesen …

EU AI Pact hat über 100 Unterzeichner, Apple und Meta fehlen

Die Europäische Kommission hat die ersten über 100 Unterzeichner des AI Pacts bekannt gegeben. Dieser freiwillige Pakt soll Unternehmen dazu bringen, ihre Ansätze zur Entwicklung und zum Einsatz von Künstlicher Intelligenz offenzulegen. Wie Natasha Lomas für TechCrunch berichtet, haben sich unter anderem Amazon, Google, Microsoft und OpenAI angeschlossen, während Apple und Meta fehlen. Ziel ist …

Weiterlesen …

US-Handelsbehörde FTC geht gegen KI-Unternehmen vor

Die US-Handelsbehörde FTC geht gegen fünf Unternehmen vor, die KI-Produkte irreführend beworben haben sollen. Im Zentrum steht dabei DoNotPay, das sich als „erster Roboter-Anwalt der Welt“ präsentierte. Die Firma muss nun 193.000 US-Dollar Strafe zahlen und Kunden über die Grenzen ihres KI-Chatbots informieren. Laut FTC hatte DoNotPay weder getestet, ob die KI-Leistung der eines menschlichen …

Weiterlesen …