Russland, Iran und China setzen verstärkt auf KI, um die US-Wähler vor der Präsidentschaftswahl im November zu beeinflussen. Das erklärten US-Geheimdienstbeamte laut eines Berichts von Joseph Menn in der Washington Post. Demnach konzentriere sich vor allem Russland darauf, die demokratische Kandidatin Kamala Harris zu diskreditieren. Moskau manipuliert Reden von Harris und erstellt gefälschte Inhalte mit …
Cloudflare führt neue Werkzeuge ein, um Websites vor KI-Bots zu schützen und deren Scraping zu kontrollieren. Das Unternehmen bietet allen Kunden, auch den 33 Millionen kostenlosen Nutzern, eine Überwachung und selektive Blockierung von KI-Daten-Scraping-Bots an. CEO Matthew Prince erklärt, dass diese Maßnahmen den Websitebetreibern mehr Kontrolle darüber geben sollen, wie und wann KI-Bots ihre Inhalte …
Forscher der ETH Zürich haben Googles reCAPTCHAv2-System vollständig geknackt. Mit fortschrittlichen Machine-Learning-Methoden lösten sie 100% der CAPTCHAs, die eigentlich Menschen von Bots unterscheiden sollen. Obwohl der Prozess noch menschlichen Eingriff erforderte, könnte eine vollautomatische Umgehung von CAPTCHAs bald Realität werden. Als Reaktion darauf entwickeln Unternehmen wie Google ständig komplexere Systeme. Dies könnte jedoch zu Problemen …
Ein Hacker ist im vergangenen Jahr in die internen Kommunikationssysteme von OpenAI eingedrungen und hat Informationen über die Entwicklung der KI-Technologien des Unternehmens gestohlen. Mitarbeiter kritisierten OpenAI für mangelnde Sicherheitsvorkehrungen und befürchten, dass die Technologie in Zukunft die nationale Sicherheit der USA gefährden könnte.
OpenAIs ChatGPT App für macOS hatte ein Sicherheitsleck: Alle Chats wurden unverschlüsselt auf dem Computer gespeichert. Jeder mit Zugriff auf den Rechner konnte sie lesen. Nun werden sie verschlüsselt.
In einem ausführlichen Artikel beleuchtet Time Magazine das KI-Unternehmen Anthropic und dessen Bemühungen, Sicherheit als oberste Priorität zu setzen. Der Mitbegründer und CEO Dario Amodei entschied sich bewusst dagegen, den leistungsstarken Chatbot Claude frühzeitig zu veröffentlichen, um potenzielle Risiken zu vermeiden. Anthropic sieht seine Mission darin, durch den Aufbau und die Erforschung mächtiger KI-Systeme empirisch zu …
In einem offenen Brief warnen aktuelle und ehemalige Mitarbeiter von OpenAI vor einer „rücksichtslosen“ Entwicklung im Wettlauf um die Vorherrschaft bei Künstlicher Intelligenz. Sie fordern weitreichende Veränderungen in der KI-Branche, darunter mehr Transparenz und einen besseren Schutz für Whistleblower. Die Unterzeichner kritisieren eine Kultur der Geheimniskrämerei und des Profits um jeden Preis bei OpenAI. Das Unternehmen …
Kalifornien will strenge Sicherheitsregeln für Künstliche Intelligenz einführen, darunter einen „Kill Switch“ und Meldepflichten für Entwickler. Kritiker warnen vor Innovationshemmnissen, übertriebener Bürokratie und negativen Auswirkungen auf Open-Source-Modelle, die den Technologiesektor im US-Bundesstaat schwächen könnten.
Das britische AI Safety Institute veröffentlicht mit „Inspect“ ein Open-Source-Toolset, das die Sicherheitsbewertung von KI-Modellen vereinfachen soll. Mit Inspect lassen sich Fähigkeiten von KI-Modellen testen, wie zum Beispiel das Kernwissen und logisches Denken.
Die NSA veröffentlicht in Zusammenarbeit mit internationalen Partnern einen Leitfaden mit Best Practices für die sichere Bereitstellung und den Betrieb von KI-Systemen. Das Cybersecurity Information Sheet richtet sich primär an Betreiber nationaler Sicherheitssysteme und Unternehmen der Verteidigungsindustrie, ist aber auch für andere Organisationen relevant. Quelle: Hacker News