Je tiefer Unternehmen KI in ihre Prozesse integrieren, desto wahrscheinlicher werden Sicherheitsvorfälle. Das zeigt eine neue Umfrage des Geräteverwaltungsanbieters Jamf unter 687 IT-Verantwortlichen. Die Studie deckt eine wachsende Lücke zwischen KI-Einführung und der Fähigkeit auf, diese zu steuern und zu überwachen. 72,9 Prozent der Befragten gaben an, dass ihr Unternehmen KI bereits in irgendeiner Form …
Die US-Regierung hat Anthropic angewiesen, den Zugang zu seinen beiden leistungsfähigsten KI-Modellen, Fable 5 und Mythos 5, auf US-Bürger zu beschränken. Da Anthropic die Staatsbürgerschaft seiner Nutzer nicht zuverlässig prüfen kann, hat das Unternehmen beide Modelle vollständig vom Markt genommen. Es ist das erste Mal, dass die USA eine Exportkontrolle für ein großes Sprachmodell verhängen. …
OpenAI führt eine neue optionale Sicherheitsfunktion namens Lockdown Mode ein. Sie soll Nutzerinnen und Nutzer vor sogenannten Prompt-Injection-Angriffen schützen. Igor Bonifacic berichtet bei Engadget, dass sich das Feature vor allem an Personen und Organisationen richtet, die mit sensiblen Daten arbeiten. Bei einem Prompt-Injection-Angriff verstecken Angreifer schädliche Anweisungen auf Webseiten oder in anderen Inhalten. Liest ein …
Anthropics neues KI-Modell Claude Mythos kann selbstständig Sicherheitslücken in nahezu allen wichtigen Softwaresystemen finden und ausnutzen. Wie ich bereits berichtet habe, steht Mythos derzeit nur einer kleinen Gruppe von Technologieunternehmen im Rahmen von Project Glasswing zur Verfügung. Zvi Mowshowitz schreibt in seinem Newsletter „Don’t Worry About The Vase“ darüber, was diese Fähigkeiten so beispiellos macht …
Anthropic hat ein neues KI-Modell entwickelt, das das Unternehmen für zu gefährlich hält, um es öffentlich bereitzustellen. Das Modell heißt Claude Mythos Preview und kann selbstständig Sicherheitslücken in Software finden und ausnutzen. Statt es allgemein zugänglich zu machen, teilt Anthropic den Zugang mit einem Verbund von mehr als 40 Organisationen — im Rahmen einer Initiative …
OpenAI hat das Wort „safely“ aus seinem Mission Statement gestrichen. Die Änderung ist in der Steuererklärung für 2024 dokumentiert, die das Unternehmen beim Internal Revenue Service eingereicht hat. Die Streichung fällt mit der Umwandlung von einer Non-Profit-Organisation in ein gewinnorientiertes Unternehmen zusammen. Das ursprüngliche Mission Statement von 2022 und 2023 lautete: „to build general-purpose artificial …
Anthropic hat sich als starker Konkurrent in der Künstliche-Intelligenz-Branche etabliert. Das Unternehmen konzentriert sich auf Enterprise-Kunden und positioniert sich als sicherheitsbewussteste KI-Firma. Der Ansatz zahlt sich kommerziell und bei Investoren aus. Kritiker fragen jedoch, ob das Unternehmen seine Prinzipien halten kann, während es um Marktanteile kämpft. Das Startup aus San Francisco wuchs von 1 Milliarde …
Zwei schwere Sicherheitsvorfälle zeigen Schwachstellen im wachsenden Ökosystem rund um KI-Agenten. Sie offenbaren Risiken, wenn künstliche Intelligenz Software ohne menschliche Aufsicht erstellt. Die Cybersecurity-Firma Wiz hat eine gravierende Sicherheitslücke in Moltbook entdeckt. Moltbook ist ein soziales Netzwerk, das ausschließlich für KI-Agenten entwickelt wurde, berichtet Raphael Satter für Reuters. Die Schwachstelle legte private Nachrichten zwischen Agenten, …
Sicherheitsforscher haben kritische Schwachstellen in OpenClaw entdeckt, einem Open-Source-KI-Assistenten für E-Mails, Kalender und andere Aufgaben. Das Projekt wurde nach einer Markenrechtsbeschwerde von Anthropic von Clawedbot in Moltbot und schließlich OpenClaw umbenannt. Das Kernproblem liegt im Model Context Protocol, dem Framework, das OpenClaw für Verbindungen zu verschiedenen Diensten nutzt. MCP wurde ohne verpflichtende Authentifizierung ausgeliefert. Itamar …
Microsoft sieht sich erheblichem Widerstand von Sicherheitsexperten und Nutzern bezüglich seiner Strategie zur Integration fortschrittlicher künstlicher Intelligenz in das Windows-Betriebssystem gegenüber. Die Kritik entzündet sich an einer neuen, experimentellen Funktion namens Copilot Actions, vor der Microsoft selbst gewarnt hat, sie könne Nutzer Malware und Datendiebstahl aussetzen. Das Unternehmen führte Copilot Actions als eine Reihe von …