Apple will die Freigabe „Full Disk Access“ in macOS stärker absichern. Diese Berechtigung kann Apps Zugriff auf Dateien, Nachrichten, E-Mails und den Browserverlauf geben. Sarah Perez berichtet für TechCrunch, dass Apple durch leistungsfähigere und autonomere KI-Agenten neue Risiken sieht. Die Berechtigung war ursprünglich vor allem für Backup-Programme gedacht. Sie kann einer Anwendung jedoch einen sehr …
Kriminelle nutzen gefälschte Inhalte im Netz, um über ChatGPT, Gemini und Google AI Overviews betrügerische Telefonnummern, E-Mail-Adressen und Anmeldeseiten zu verbreiten. Davor warnen Sicherheitsforscher. Ariel Simon schreibt auf Medium, sein Team habe Angriffe auf 374 Unternehmen festgestellt. Betroffen seien unter anderem Fluggesellschaften, Banken, Reiseplattformen und Softwareanbieter. Genannt werden etwa Delta, Lufthansa, Qatar Airways, Bank of …
Berichte über Hunderte koordinierte KI-Agenten in einer Sicherheitsprüfung schüren neue Sorgen über autonome Systeme. Im Mittelpunkt steht ein Vorfall in Testumgebungen von OpenAI und in Systemen von Hugging Face. Die Modelle haben sich nach den vorliegenden Berichten nicht selbstständig aus der Infrastruktur herauskopiert oder eine unabhängige KI-Instanz im Internet aufgebaut. Sie sollen aber unerlaubte Kommunikationswege …
OpenAI bremst die Entwicklung seines kommenden Modells Astra teilweise, nachdem interne Tests auf besonders weitreichende Cyberfähigkeiten hindeuten. Das Unternehmen kann nach eigenen Angaben nicht ausschließen, dass Astra die höchste Risikostufe für Cybersecurity im eigenen Preparedness Framework erreicht. Die Stufe Critical gilt bei OpenAI dann als erreicht, wenn ein Modell ohne menschliche Hilfe Zero Day Exploits …
OpenAI-Chef Sam Altman trifft diese Woche in Washington hochrangige Vertreter der Trump-Regierung, Senatoren und Ökonomen. Im Mittelpunkt stehen die Sicherheit künstlicher Intelligenz und der Umgang mit chinesischen KI-Modellen. Ashley Capoot und Kate Rooney berichten für CNBC, Altman wolle eine kommende Modellfamilie von OpenAI vorstellen. Außerdem soll er Fragen zu Cybersicherheit, KI-Agenten und sogenannten Open-Weight-Modellen beantworten. …
Je tiefer Unternehmen KI in ihre Prozesse integrieren, desto wahrscheinlicher werden Sicherheitsvorfälle. Das zeigt eine neue Umfrage des Geräteverwaltungsanbieters Jamf unter 687 IT-Verantwortlichen. Die Studie deckt eine wachsende Lücke zwischen KI-Einführung und der Fähigkeit auf, diese zu steuern und zu überwachen. 72,9 Prozent der Befragten gaben an, dass ihr Unternehmen KI bereits in irgendeiner Form …
Die US-Regierung hat Anthropic angewiesen, den Zugang zu seinen beiden leistungsfähigsten KI-Modellen, Fable 5 und Mythos 5, auf US-Bürger zu beschränken. Da Anthropic die Staatsbürgerschaft seiner Nutzer nicht zuverlässig prüfen kann, hat das Unternehmen beide Modelle vollständig vom Markt genommen. Es ist das erste Mal, dass die USA eine Exportkontrolle für ein großes Sprachmodell verhängen. …
OpenAI führt eine neue optionale Sicherheitsfunktion namens Lockdown Mode ein. Sie soll Nutzerinnen und Nutzer vor sogenannten Prompt-Injection-Angriffen schützen. Igor Bonifacic berichtet bei Engadget, dass sich das Feature vor allem an Personen und Organisationen richtet, die mit sensiblen Daten arbeiten. Bei einem Prompt-Injection-Angriff verstecken Angreifer schädliche Anweisungen auf Webseiten oder in anderen Inhalten. Liest ein …
Anthropics neues KI-Modell Claude Mythos kann selbstständig Sicherheitslücken in nahezu allen wichtigen Softwaresystemen finden und ausnutzen. Wie ich bereits berichtet habe, steht Mythos derzeit nur einer kleinen Gruppe von Technologieunternehmen im Rahmen von Project Glasswing zur Verfügung. Zvi Mowshowitz schreibt in seinem Newsletter „Don’t Worry About The Vase“ darüber, was diese Fähigkeiten so beispiellos macht …
Anthropic hat ein neues KI-Modell entwickelt, das das Unternehmen für zu gefährlich hält, um es öffentlich bereitzustellen. Das Modell heißt Claude Mythos Preview und kann selbstständig Sicherheitslücken in Software finden und ausnutzen. Statt es allgemein zugänglich zu machen, teilt Anthropic den Zugang mit einem Verbund von mehr als 40 Organisationen — im Rahmen einer Initiative …