Auf der KI-Plattform Character.AI können Nutzer Chatbots nach dem Vorbild realer Personen erstellen, auch ohne deren Zustimmung. Megan Farokhmanesh berichtet bei Wired über mehrere Fälle, in denen KI-Avatare von Personen erstellt wurden, ohne dass diese davon wussten oder ihre Einwilligung gegeben hatten. Betroffen sind unter anderem die Spielejournalistin Alyssa Mercante und die feministische Medienkritikerin Anita …
KI-gestützte Tools machen juristische Schritte günstiger und einfacher, wie der Fall der „LexPunk Army“ zeigt. Laut Harvard Business Review nutzte diese Gruppe von Anwälten und Entwicklern einen KI-Bot, um massenhaft Kommentare zu einem Gesetzesvorschlag des US-Finanzministeriums einzureichen. Die Flut von 120.000 Kommentaren, im Vergleich zu durchschnittlich drei, schwächte den finalen Gesetzestext deutlich. Der Artikel sieht …
Ein aktueller Bericht von OpenAI zeigt den versuchten Missbrauch seiner Plattform durch Cyber-Akteure, die darauf abzielen, Wahlen weltweit zu beeinflussen. Das Unternehmen hat mehr als 20 betrügerische Operationen gestoppt, bei denen KI-generierte Inhalte verwendet wurden, darunter gefälschte Artikel und Posts in sozialen Medien, schreibt Hayden Field für CNBC. Angesichts der bevorstehenden wichtigen Wahlen auf der …
Forscher der ETH Zürich haben Googles reCAPTCHAv2-System vollständig geknackt. Mit fortschrittlichen Machine-Learning-Methoden lösten sie 100% der CAPTCHAs, die eigentlich Menschen von Bots unterscheiden sollen. Obwohl der Prozess noch menschlichen Eingriff erforderte, könnte eine vollautomatische Umgehung von CAPTCHAs bald Realität werden. Als Reaktion darauf entwickeln Unternehmen wie Google ständig komplexere Systeme. Dies könnte jedoch zu Problemen …
Generative KI produziert zunehmend fragwürdige wissenschaftliche Arbeiten, die etwa über Google Scholar auffindbar sind. Das zeigt eine Analyse von schwedischen Forschern. Sie fanden 139 Beiträge mit Anzeichen für den verdeckten Einsatz von ChatGPT, vor allem zu umstrittenen Themen wie Umwelt und Gesundheit. Die meisten dieser Arbeiten erschienen in nicht indexierten Zeitschriften, einige aber auch in …
YouTube erlaubt es Nutzern nun, die Entfernung von KI-generierten Inhalten zu beantragen, die ihr Gesicht oder ihre Stimme simulieren.YouTube prüft jeden Antrag individuell und berücksichtigt dabei Faktoren wie die Kennzeichnung des Inhalts als synthetisch, die eindeutige Identifizierung der Person und den möglichen Wert des Inhalts.
Die Kosten durch Deepfake-Betrug werden laut Deloitte bis 2027 auf 40 Milliarden US-Dollar steigen, wobei Banken und Finanzdienstleister besonders gefährdet sind. Die Technologie werde immer ausgefeilter und erschwinglicher, sodass Angreifer Deepfake-Videos, -Stimmen und -Dokumente erstellen können, um Unternehmen zu täuschen. Besonders CEOs sind Ziel solcher Angriffe, die häufig mit Phishing-Attacken, Ransomware und anderen Cyberbedrohungen kombiniert werden.
BNN Breaking, eine Nachrichtenseite mit Millionen von Lesern, einem internationalen Journalistenteam und einer Partnerschaft mit Microsoft, erwies sich als Quelle zahlreicher Fehler und Falschmeldungen. Ehemalige Mitarbeiter berichten, dass die Seite in großem Umfang auf KI-generierte Inhalte setzte, die oft ohne ausreichende Prüfung veröffentlicht wurden. Dies führte zu Beschwerden von Personen, die fälschlicherweise in Artikeln genannt wurden, …
So wie unerwünschter Werbemüll landläufig als „Spam“ bekannt ist, könnte unerwünschter, KI-generierter Müllcontent als „Slop“ bezeichnet werden. Das findet jedenfalls Simon Willison, dem dieser Begriff aufgefallen ist und ihn in einem Blogpost vorschlägt. Das englische Slop meint ins Deutsche übersetzt etwa „Gefasel“ oder „Geseiere“, aber auch „Pampe“ oder „Matsche“. Und ich finde, das passt doch …
Dieser Artikel deckt auf, wie die Firma AdVon mit gefälschten Autoren und möglicherweise KI-generierten Inhalten die Medienbranche infiltriert. AdVon beliefert Publikationen mit unzähligen Produktbewertungen, die mit Affiliate-Links gespickt sind und durch Google-Suchanfragen Traffic generieren sollen. Es wird vermutet, dass AdVon die Artikel mittels KI erstellt und dabei menschliche Autoren durch Software ersetzt. Mehrere Indizien, wie …