Missbrauch

KI-generierte Bilder gefährden Integrität der Forschung

KI kann inzwischen täuschend echte wissenschaftliche Abbildungen erzeugen. Dies bereitet Experten für Forschungsintegrität große Sorgen, berichtet „Nature“. Sie befürchten, dass die Fachliteratur zunehmend mit gefälschten Bildern überschwemmt wird, die nur schwer zu erkennen sind. Unternehmen wie Proofig und Imagetwin arbeiten an KI-basierten Lösungen, um manipulierte Bilder aufzuspüren. Obwohl einige Verlage bereits Hinweise auf KI-generierten Inhalt …

Weiterlesen …

Claude Computer Use verwundbar für Fernzugriff durch Prompt Injection

Das von Anthropic veröffentlichte Feature Claude Computer Use erlaubt es der KI Claude, einen Computer fernzusteuern. Dabei nutzt sie Screenshots zur Entscheidungsfindung und kann Bash-Kommandos ausführen. Ein Post auf „Embrace the Red“ demonstriert jedoch, dass dies auch erhebliche Sicherheitsrisiken birgt. Durch eine speziell gestaltete Webseite konnte der Autor Claude dazu bringen, Malware herunterzuladen und auszuführen. …

Weiterlesen …

Was tun, wenn andere dich als Chatbot anbieten?

Auf der KI-Plattform Character.AI können Nutzer Chatbots nach dem Vorbild realer Personen erstellen, auch ohne deren Zustimmung. Megan Farokhmanesh berichtet bei Wired über mehrere Fälle, in denen KI-Avatare von Personen erstellt wurden, ohne dass diese davon wussten oder ihre Einwilligung gegeben hatten. Betroffen sind unter anderem die Spielejournalistin Alyssa Mercante und die feministische Medienkritikerin Anita …

Weiterlesen …

Generative KI als juristischer Alptraum

KI-gestützte Tools machen juristische Schritte günstiger und einfacher, wie der Fall der „LexPunk Army“ zeigt. Laut Harvard Business Review nutzte diese Gruppe von Anwälten und Entwicklern einen KI-Bot, um massenhaft Kommentare zu einem Gesetzesvorschlag des US-Finanzministeriums einzureichen. Die Flut von 120.000 Kommentaren, im Vergleich zu durchschnittlich drei, schwächte den finalen Gesetzestext deutlich. Der Artikel sieht …

Weiterlesen …

ChatGPT als Instrument der Wahlbeeinflussung

Ein aktueller Bericht von OpenAI zeigt den versuchten Missbrauch seiner Plattform durch Cyber-Akteure, die darauf abzielen, Wahlen weltweit zu beeinflussen. Das Unternehmen hat mehr als 20 betrügerische Operationen gestoppt, bei denen KI-generierte Inhalte verwendet wurden, darunter gefälschte Artikel und Posts in sozialen Medien, schreibt Hayden Field für CNBC. Angesichts der bevorstehenden wichtigen Wahlen auf der …

Weiterlesen …

Zürcher Forscher überwinden Googles CAPTCHAs mit KI

Forscher der ETH Zürich haben Googles reCAPTCHAv2-System vollständig geknackt. Mit fortschrittlichen Machine-Learning-Methoden lösten sie 100% der CAPTCHAs, die eigentlich Menschen von Bots unterscheiden sollen. Obwohl der Prozess noch menschlichen Eingriff erforderte, könnte eine vollautomatische Umgehung von CAPTCHAs bald Realität werden. Als Reaktion darauf entwickeln Unternehmen wie Google ständig komplexere Systeme. Dies könnte jedoch zu Problemen …

Weiterlesen …

Studie findet zahlreiche KI-generierte, wissenschaftliche Arbeiten

Generative KI produziert zunehmend fragwürdige wissenschaftliche Arbeiten, die etwa über Google Scholar auffindbar sind. Das zeigt eine Analyse von schwedischen Forschern. Sie fanden 139 Beiträge mit Anzeichen für den verdeckten Einsatz von ChatGPT, vor allem zu umstrittenen Themen wie Umwelt und Gesundheit. Die meisten dieser Arbeiten erschienen in nicht indexierten Zeitschriften, einige aber auch in …

Weiterlesen …

YouTube erlaubt Nutzern, KI-Imitate zu melden

YouTube erlaubt es Nutzern nun, die Entfernung von KI-generierten Inhalten zu beantragen, die ihr Gesicht oder ihre Stimme simulieren.YouTube prüft jeden Antrag individuell und berücksichtigt dabei Faktoren wie die Kennzeichnung des Inhalts als synthetisch, die eindeutige Identifizierung der Person und den möglichen Wert des Inhalts.

Kosten durch Deepfake-Betrug steigen auf 40 Mrd. US-Dollar bis 2027

Die Kosten durch Deepfake-Betrug werden laut Deloitte bis 2027 auf 40 Milliarden US-Dollar steigen, wobei Banken und Finanzdienstleister besonders gefährdet sind. Die Technologie werde immer ausgefeilter und erschwinglicher, sodass Angreifer Deepfake-Videos, -Stimmen und -Dokumente erstellen können, um Unternehmen zu täuschen. Besonders CEOs sind Ziel solcher Angriffe, die häufig mit Phishing-Attacken, Ransomware und anderen Cyberbedrohungen kombiniert werden.

Die unrühmliche Geschichte eines KI-getriebenen Newsportals

BNN Breaking, eine Nachrichtenseite mit Millionen von Lesern, einem internationalen Journalistenteam und einer Partnerschaft mit Microsoft, erwies sich als Quelle zahlreicher Fehler und Falschmeldungen. Ehemalige Mitarbeiter berichten, dass die Seite in großem Umfang auf KI-generierte Inhalte setzte, die oft ohne ausreichende Prüfung veröffentlicht wurden. Dies führte zu Beschwerden von Personen, die fälschlicherweise in Artikeln genannt wurden, …

Weiterlesen …