Sicherheit - ✦ Smart Content Report

Hacking-Angriff analysiert: Wie gefährlich sind unbeaufsichtigte KI-Agenten?

3. September 2026

Berichte über Hunderte koordinierte KI-Agenten in einer Sicherheitsprüfung schüren neue Sorgen über autonome Systeme. Im Mittelpunkt steht ein Vorfall in Testumgebungen von OpenAI und in Systemen von Hugging Face. Die Modelle haben sich nach den vorliegenden Berichten nicht selbstständig aus der Infrastruktur herauskopiert oder eine unabhängige KI-Instanz im Internet aufgebaut. Sie sollen aber unerlaubte Kommunikationswege …

OpenAI Astra: Entwicklung des kommenden Modells wegen Cyberrisiken gebremst

10. August 2026

OpenAI bremst die Entwicklung seines kommenden Modells Astra teilweise, nachdem interne Tests auf besonders weitreichende Cyberfähigkeiten hindeuten. Das Unternehmen kann nach eigenen Angaben nicht ausschließen, dass Astra die höchste Risikostufe für Cybersecurity im eigenen Preparedness Framework erreicht. Die Stufe Critical gilt bei OpenAI dann als erreicht, wenn ein Modell ohne menschliche Hilfe Zero Day Exploits …

Sam Altman reist nach Washington: KI-Sicherheit und China-Politik im Fokus

27. Juli 2026

OpenAI-Chef Sam Altman trifft diese Woche in Washington hochrangige Vertreter der Trump-Regierung, Senatoren und Ökonomen. Im Mittelpunkt stehen die Sicherheit künstlicher Intelligenz und der Umgang mit chinesischen KI-Modellen. Ashley Capoot und Kate Rooney berichten für CNBC, Altman wolle eine kommende Modellfamilie von OpenAI vorstellen. Außerdem soll er Fragen zu Cybersicherheit, KI-Agenten und sogenannten Open-Weight-Modellen beantworten. …

Umfrage: KI-Sicherheitsvorfälle häufen sich mit zunehmender Integration

15. Juni 2026

Je tiefer Unternehmen KI in ihre Prozesse integrieren, desto wahrscheinlicher werden Sicherheitsvorfälle. Das zeigt eine neue Umfrage des Geräteverwaltungsanbieters Jamf unter 687 IT-Verantwortlichen. Die Studie deckt eine wachsende Lücke zwischen KI-Einführung und der Fähigkeit auf, diese zu steuern und zu überwachen. 72,9 Prozent der Befragten gaben an, dass ihr Unternehmen KI bereits in irgendeiner Form …

Jailbreak, Exportkontrolle, Machtkampf: Was hinter dem Verbot von Anthropics Fable 5 steckt

14. Juni 2026

Die US-Regierung hat Anthropic angewiesen, den Zugang zu seinen beiden leistungsfähigsten KI-Modellen, Fable 5 und Mythos 5, auf US-Bürger zu beschränken. Da Anthropic die Staatsbürgerschaft seiner Nutzer nicht zuverlässig prüfen kann, hat das Unternehmen beide Modelle vollständig vom Markt genommen. Es ist das erste Mal, dass die USA eine Exportkontrolle für ein großes Sprachmodell verhängen. …

OpenAI führt Lockdown Mode ein: Schutz vor versteckten Angriffsbefehlen in ChatGPT

10. Juni 2026

OpenAI führt eine neue optionale Sicherheitsfunktion namens Lockdown Mode ein. Sie soll Nutzerinnen und Nutzer vor sogenannten Prompt-Injection-Angriffen schützen. Igor Bonifacic berichtet bei Engadget, dass sich das Feature vor allem an Personen und Organisationen richtet, die mit sensiblen Daten arbeiten. Bei einem Prompt-Injection-Angriff verstecken Angreifer schädliche Anweisungen auf Webseiten oder in anderen Inhalten. Liest ein …

Claude Mythos: Wie gefährlich ist diese neue KI wirklich?

13. April 2026

Anthropics neues KI-Modell Claude Mythos kann selbstständig Sicherheitslücken in nahezu allen wichtigen Softwaresystemen finden und ausnutzen. Wie ich bereits berichtet habe, steht Mythos derzeit nur einer kleinen Gruppe von Technologieunternehmen im Rahmen von Project Glasswing zur Verfügung. Zvi Mowshowitz schreibt in seinem Newsletter „Don’t Worry About The Vase“ darüber, was diese Fähigkeiten so beispiellos macht …

Claude Mythos: Anthropic hält sein leistungsstärkstes KI-Modell wegen Sicherheitsrisiken zurück

8. April 2026

Anthropic hat ein neues KI-Modell entwickelt, das das Unternehmen für zu gefährlich hält, um es öffentlich bereitzustellen. Das Modell heißt Claude Mythos Preview und kann selbstständig Sicherheitslücken in Software finden und ausnutzen. Statt es allgemein zugänglich zu machen, teilt Anthropic den Zugang mit einem Verbund von mehr als 40 Organisationen — im Rahmen einer Initiative …

OpenAI entfernt „safely“ aus Mission Statement

16. Februar 2026

OpenAI hat das Wort „safely“ aus seinem Mission Statement gestrichen. Die Änderung ist in der Steuererklärung für 2024 dokumentiert, die das Unternehmen beim Internal Revenue Service eingereicht hat. Die Streichung fällt mit der Umwandlung von einer Non-Profit-Organisation in ein gewinnorientiertes Unternehmen zusammen. Das ursprüngliche Mission Statement von 2022 und 2023 lautete: „to build general-purpose artificial …

Wie Anthropics Fokus auf KI-Sicherheit zur Stärke gegen OpenAI wurde

9. Februar 2026

Anthropic hat sich als starker Konkurrent in der Künstliche-Intelligenz-Branche etabliert. Das Unternehmen konzentriert sich auf Enterprise-Kunden und positioniert sich als sicherheitsbewussteste KI-Firma. Der Ansatz zahlt sich kommerziell und bei Investoren aus. Kritiker fragen jedoch, ob das Unternehmen seine Prinzipien halten kann, während es um Marktanteile kämpft. Das Startup aus San Francisco wuchs von 1 Milliarde …