KI-Erkennungsplattform erhält 5 Millionen Dollar Startkapital

Das Startup-Unternehmen „AI or Not“ hat eine Seed-Finanzierung von 5 Millionen Dollar erhalten. Wie Dean Takahashi berichtet, führte Foundation Capital die Investitionsrunde an, unterstützt von GTMFund, Plug and Play und weiteren Investoren. Die Plattform entwickelt Technologien zur Erkennung von KI-generiertem Content und Deepfakes. Die Firma warnt vor möglichen Verlusten von über 40 Milliarden Dollar durch … Weiterlesen …

KI-Tool verwandelt Gewaltvideos in Minions-Animation

Ein besorgniserregender Trend breitet sich in sozialen Medien aus: Nutzer verwenden die KI-Software Runway, um echte Gewaltvideos in Animationen im Stil der Minions-Filme umzuwandeln. Wie Emanuel Maiberg von 404 Media berichtet, werden dabei grausame Aufnahmen von Selbstmorden und Terroranschlägen verfremdet. Die veränderten Videos erreichen oft tausende Aufrufe, bevor sie entdeckt werden. Herkömmliche Erkennungssysteme der Plattformen … Weiterlesen …

KI erreicht hohe Erfolgsquote bei personalisierten Phishing-Angriffen

Eine neue Studie zeigt, dass KI außergewöhnlich erfolgreich personalisierte Phishing-E-Mails erstellen und versenden kann. Die Erfolgsquote liegt bei über 50 Prozent. Die Forschungsarbeit von Simon Lermen und Fred Heiding wurde jetzt veröffentlicht. Die Wissenschaftler verglichen vier verschiedene Methoden des Phishings: zufällige traditionelle Phishing-E-Mails, von Experten erstellte Nachrichten, vollautomatische KI-Nachrichten und KI-Nachrichten mit menschlicher Überprüfung. Beide … Weiterlesen …

KI-Stimmsynthese von ElevenLabs in russischer Desinformationskampagne eingesetzt

Ein aktueller Bericht des Sicherheitsunternehmens Recorded Future zeigt, dass die KI-Stimmsynthese-Technologie von ElevenLabs höchstwahrscheinlich in einer russischen Einflussoperation verwendet wurde. Wie Charles Rollet für TechCrunch berichtet, zielte die als „Operation Undercut“ bekannte Kampagne darauf ab, die europäische Unterstützung für die Ukraine zu untergraben. Die Kampagne nutzte KI-generierte Stimmen in verschiedenen europäischen Sprachen, darunter Deutsch, Französisch, … Weiterlesen …

KI-generierte Inhalte täuschen Leser einer eingestellten Zeitung

Eine betrügerische Website gibt sich als die eingestellte Zeitung Ashland Daily Tidings aus und veröffentlicht KI-generierte Inhalte unter gestohlenen Identitäten echter Journalisten. Diese Erkenntnisse stammen aus einer Untersuchung von Ryan Haas für Oregon Public Broadcasting (OPB). Die Website erschien nach der Schließung der echten Zeitung im Jahr 2023 und listete acht angebliche Reporter auf. Die … Weiterlesen …

KI-generierte Inhalte dominieren LinkedIn-Beiträge

Eine neue Analyse von Originality AI, die exklusiv mit WIRED geteilt wurde, zeigt, dass mehr als 54 Prozent der längeren englischsprachigen Beiträge auf LinkedIn wahrscheinlich KI-generiert sind. Die Studie basiert auf einer Untersuchung von 8.795 öffentlichen Beiträgen. Laut Autorin Kate Knibbs wurde ein deutlicher Anstieg von KI-generierten Inhalten nach der Einführung von ChatGPT Anfang 2023 … Weiterlesen …

KI-generierte Musikfälschungen auf Spotify-Künstlerseiten

Auf Spotify häufen sich Fälle von gefälschter Musik, die mittels künstlicher Intelligenz erstellt wurde. Wie The Verge berichtet, werden diese Fälschungen gezielt auf den verifizierten Seiten etablierter Künstler platziert. Besonders betroffen sind Musiker mit einwortigen Namen. Die Betrüger nutzen dabei Schwachstellen im Vertriebssystem von Spotify aus. Experten schätzen den jährlichen Schaden durch Streaming-Betrug auf 2-3 … Weiterlesen …

KI verstärkt Misstrauen in US-Wahlkampf 2024

Künstliche Intelligenz hat im US-Präsidentschaftswahlkampf 2024 eine andere Rolle gespielt als zunächst befürchtet. Statt Wahlergebnisse direkt zu beeinflussen, trug die Technologie hauptsächlich dazu bei, das Vertrauen der Wähler in echte Informationen zu erschüttern. Dies geht aus einer Analyse der Washington Post hervor. Obwohl KI-generierte Deepfakes und Falschinformationen besonders auf der Plattform X (Twitter) weit verbreitet … Weiterlesen …

KI-generierte Bilder gefährden Integrität der Forschung

KI kann inzwischen täuschend echte wissenschaftliche Abbildungen erzeugen. Dies bereitet Experten für Forschungsintegrität große Sorgen, berichtet „Nature“. Sie befürchten, dass die Fachliteratur zunehmend mit gefälschten Bildern überschwemmt wird, die nur schwer zu erkennen sind. Unternehmen wie Proofig und Imagetwin arbeiten an KI-basierten Lösungen, um manipulierte Bilder aufzuspüren. Obwohl einige Verlage bereits Hinweise auf KI-generierten Inhalt … Weiterlesen …

Claude Computer Use verwundbar für Fernzugriff durch Prompt Injection

Das von Anthropic veröffentlichte Feature Claude Computer Use erlaubt es der KI Claude, einen Computer fernzusteuern. Dabei nutzt sie Screenshots zur Entscheidungsfindung und kann Bash-Kommandos ausführen. Ein Post auf „Embrace the Red“ demonstriert jedoch, dass dies auch erhebliche Sicherheitsrisiken birgt. Durch eine speziell gestaltete Webseite konnte der Autor Claude dazu bringen, Malware herunterzuladen und auszuführen. … Weiterlesen …