Missbrauch

KI-Stimmsynthese von ElevenLabs in russischer Desinformationskampagne eingesetzt

Ein aktueller Bericht des Sicherheitsunternehmens Recorded Future zeigt, dass die KI-Stimmsynthese-Technologie von ElevenLabs höchstwahrscheinlich in einer russischen Einflussoperation verwendet wurde. Wie Charles Rollet für TechCrunch berichtet, zielte die als „Operation Undercut“ bekannte Kampagne darauf ab, die europäische Unterstützung für die Ukraine zu untergraben. Die Kampagne nutzte KI-generierte Stimmen in verschiedenen europäischen Sprachen, darunter Deutsch, Französisch, … Weiterlesen …

KI-generierte Inhalte täuschen Leser einer eingestellten Zeitung

Eine betrügerische Website gibt sich als die eingestellte Zeitung Ashland Daily Tidings aus und veröffentlicht KI-generierte Inhalte unter gestohlenen Identitäten echter Journalisten. Diese Erkenntnisse stammen aus einer Untersuchung von Ryan Haas für Oregon Public Broadcasting (OPB). Die Website erschien nach der Schließung der echten Zeitung im Jahr 2023 und listete acht angebliche Reporter auf. Die … Weiterlesen …

KI-generierte Inhalte dominieren LinkedIn-Beiträge

Eine neue Analyse von Originality AI, die exklusiv mit WIRED geteilt wurde, zeigt, dass mehr als 54 Prozent der längeren englischsprachigen Beiträge auf LinkedIn wahrscheinlich KI-generiert sind. Die Studie basiert auf einer Untersuchung von 8.795 öffentlichen Beiträgen. Laut Autorin Kate Knibbs wurde ein deutlicher Anstieg von KI-generierten Inhalten nach der Einführung von ChatGPT Anfang 2023 … Weiterlesen …

KI-generierte Musikfälschungen auf Spotify-Künstlerseiten

Auf Spotify häufen sich Fälle von gefälschter Musik, die mittels künstlicher Intelligenz erstellt wurde. Wie The Verge berichtet, werden diese Fälschungen gezielt auf den verifizierten Seiten etablierter Künstler platziert. Besonders betroffen sind Musiker mit einwortigen Namen. Die Betrüger nutzen dabei Schwachstellen im Vertriebssystem von Spotify aus. Experten schätzen den jährlichen Schaden durch Streaming-Betrug auf 2-3 … Weiterlesen …

KI verstärkt Misstrauen in US-Wahlkampf 2024

Künstliche Intelligenz hat im US-Präsidentschaftswahlkampf 2024 eine andere Rolle gespielt als zunächst befürchtet. Statt Wahlergebnisse direkt zu beeinflussen, trug die Technologie hauptsächlich dazu bei, das Vertrauen der Wähler in echte Informationen zu erschüttern. Dies geht aus einer Analyse der Washington Post hervor. Obwohl KI-generierte Deepfakes und Falschinformationen besonders auf der Plattform X (Twitter) weit verbreitet … Weiterlesen …

KI-generierte Bilder gefährden Integrität der Forschung

KI kann inzwischen täuschend echte wissenschaftliche Abbildungen erzeugen. Dies bereitet Experten für Forschungsintegrität große Sorgen, berichtet „Nature“. Sie befürchten, dass die Fachliteratur zunehmend mit gefälschten Bildern überschwemmt wird, die nur schwer zu erkennen sind. Unternehmen wie Proofig und Imagetwin arbeiten an KI-basierten Lösungen, um manipulierte Bilder aufzuspüren. Obwohl einige Verlage bereits Hinweise auf KI-generierten Inhalt … Weiterlesen …

Claude Computer Use verwundbar für Fernzugriff durch Prompt Injection

Das von Anthropic veröffentlichte Feature Claude Computer Use erlaubt es der KI Claude, einen Computer fernzusteuern. Dabei nutzt sie Screenshots zur Entscheidungsfindung und kann Bash-Kommandos ausführen. Ein Post auf „Embrace the Red“ demonstriert jedoch, dass dies auch erhebliche Sicherheitsrisiken birgt. Durch eine speziell gestaltete Webseite konnte der Autor Claude dazu bringen, Malware herunterzuladen und auszuführen. … Weiterlesen …

Was tun, wenn andere dich als Chatbot anbieten?

Auf der KI-Plattform Character.AI können Nutzer Chatbots nach dem Vorbild realer Personen erstellen, auch ohne deren Zustimmung. Megan Farokhmanesh berichtet bei Wired über mehrere Fälle, in denen KI-Avatare von Personen erstellt wurden, ohne dass diese davon wussten oder ihre Einwilligung gegeben hatten. Betroffen sind unter anderem die Spielejournalistin Alyssa Mercante und die feministische Medienkritikerin Anita … Weiterlesen …

Generative KI als juristischer Alptraum

KI-gestützte Tools machen juristische Schritte günstiger und einfacher, wie der Fall der „LexPunk Army“ zeigt. Laut Harvard Business Review nutzte diese Gruppe von Anwälten und Entwicklern einen KI-Bot, um massenhaft Kommentare zu einem Gesetzesvorschlag des US-Finanzministeriums einzureichen. Die Flut von 120.000 Kommentaren, im Vergleich zu durchschnittlich drei, schwächte den finalen Gesetzestext deutlich. Der Artikel sieht … Weiterlesen …

ChatGPT als Instrument der Wahlbeeinflussung

Ein aktueller Bericht von OpenAI zeigt den versuchten Missbrauch seiner Plattform durch Cyber-Akteure, die darauf abzielen, Wahlen weltweit zu beeinflussen. Das Unternehmen hat mehr als 20 betrügerische Operationen gestoppt, bei denen KI-generierte Inhalte verwendet wurden, darunter gefälschte Artikel und Posts in sozialen Medien, schreibt Hayden Field für CNBC. Angesichts der bevorstehenden wichtigen Wahlen auf der … Weiterlesen …