OpenAI bremst die Entwicklung seines kommenden Modells Astra teilweise, nachdem interne Tests auf besonders weitreichende Cyberfähigkeiten hindeuten. Das Unternehmen kann nach eigenen Angaben nicht ausschließen, dass Astra die höchste Risikostufe für Cybersecurity im eigenen Preparedness Framework erreicht. Die Stufe Critical gilt bei OpenAI dann als erreicht, wenn ein Modell ohne menschliche Hilfe Zero Day Exploits …
OpenAI-Chef Sam Altman trifft diese Woche in Washington hochrangige Vertreter der Trump-Regierung, Senatoren und Ökonomen. Im Mittelpunkt stehen die Sicherheit künstlicher Intelligenz und der Umgang mit chinesischen KI-Modellen. Ashley Capoot und Kate Rooney berichten für CNBC, Altman wolle eine kommende Modellfamilie von OpenAI vorstellen. Außerdem soll er Fragen zu Cybersicherheit, KI-Agenten und sogenannten Open-Weight-Modellen beantworten. …
Je tiefer Unternehmen KI in ihre Prozesse integrieren, desto wahrscheinlicher werden Sicherheitsvorfälle. Das zeigt eine neue Umfrage des Geräteverwaltungsanbieters Jamf unter 687 IT-Verantwortlichen. Die Studie deckt eine wachsende Lücke zwischen KI-Einführung und der Fähigkeit auf, diese zu steuern und zu überwachen. 72,9 Prozent der Befragten gaben an, dass ihr Unternehmen KI bereits in irgendeiner Form …
Die US-Regierung hat Anthropic angewiesen, den Zugang zu seinen beiden leistungsfähigsten KI-Modellen, Fable 5 und Mythos 5, auf US-Bürger zu beschränken. Da Anthropic die Staatsbürgerschaft seiner Nutzer nicht zuverlässig prüfen kann, hat das Unternehmen beide Modelle vollständig vom Markt genommen. Es ist das erste Mal, dass die USA eine Exportkontrolle für ein großes Sprachmodell verhängen. …
OpenAI führt eine neue optionale Sicherheitsfunktion namens Lockdown Mode ein. Sie soll Nutzerinnen und Nutzer vor sogenannten Prompt-Injection-Angriffen schützen. Igor Bonifacic berichtet bei Engadget, dass sich das Feature vor allem an Personen und Organisationen richtet, die mit sensiblen Daten arbeiten. Bei einem Prompt-Injection-Angriff verstecken Angreifer schädliche Anweisungen auf Webseiten oder in anderen Inhalten. Liest ein …
Anthropics neues KI-Modell Claude Mythos kann selbstständig Sicherheitslücken in nahezu allen wichtigen Softwaresystemen finden und ausnutzen. Wie ich bereits berichtet habe, steht Mythos derzeit nur einer kleinen Gruppe von Technologieunternehmen im Rahmen von Project Glasswing zur Verfügung. Zvi Mowshowitz schreibt in seinem Newsletter „Don’t Worry About The Vase“ darüber, was diese Fähigkeiten so beispiellos macht …
Anthropic hat ein neues KI-Modell entwickelt, das das Unternehmen für zu gefährlich hält, um es öffentlich bereitzustellen. Das Modell heißt Claude Mythos Preview und kann selbstständig Sicherheitslücken in Software finden und ausnutzen. Statt es allgemein zugänglich zu machen, teilt Anthropic den Zugang mit einem Verbund von mehr als 40 Organisationen — im Rahmen einer Initiative …
OpenAI hat das Wort „safely“ aus seinem Mission Statement gestrichen. Die Änderung ist in der Steuererklärung für 2024 dokumentiert, die das Unternehmen beim Internal Revenue Service eingereicht hat. Die Streichung fällt mit der Umwandlung von einer Non-Profit-Organisation in ein gewinnorientiertes Unternehmen zusammen. Das ursprüngliche Mission Statement von 2022 und 2023 lautete: „to build general-purpose artificial …
Anthropic hat sich als starker Konkurrent in der Künstliche-Intelligenz-Branche etabliert. Das Unternehmen konzentriert sich auf Enterprise-Kunden und positioniert sich als sicherheitsbewussteste KI-Firma. Der Ansatz zahlt sich kommerziell und bei Investoren aus. Kritiker fragen jedoch, ob das Unternehmen seine Prinzipien halten kann, während es um Marktanteile kämpft. Das Startup aus San Francisco wuchs von 1 Milliarde …
Zwei schwere Sicherheitsvorfälle zeigen Schwachstellen im wachsenden Ökosystem rund um KI-Agenten. Sie offenbaren Risiken, wenn künstliche Intelligenz Software ohne menschliche Aufsicht erstellt. Die Cybersecurity-Firma Wiz hat eine gravierende Sicherheitslücke in Moltbook entdeckt. Moltbook ist ein soziales Netzwerk, das ausschließlich für KI-Agenten entwickelt wurde, berichtet Raphael Satter für Reuters. Die Schwachstelle legte private Nachrichten zwischen Agenten, …