Missbrauch

Zürcher Forscher überwinden Googles CAPTCHAs mit KI

Forscher der ETH Zürich haben Googles reCAPTCHAv2-System vollständig geknackt. Mit fortschrittlichen Machine-Learning-Methoden lösten sie 100% der CAPTCHAs, die eigentlich Menschen von Bots unterscheiden sollen. Obwohl der Prozess noch menschlichen Eingriff erforderte, könnte eine vollautomatische Umgehung von CAPTCHAs bald Realität werden. Als Reaktion darauf entwickeln Unternehmen wie Google ständig komplexere Systeme. Dies könnte jedoch zu Problemen … Weiterlesen …

Studie findet zahlreiche KI-generierte, wissenschaftliche Arbeiten

Generative KI produziert zunehmend fragwürdige wissenschaftliche Arbeiten, die etwa über Google Scholar auffindbar sind. Das zeigt eine Analyse von schwedischen Forschern. Sie fanden 139 Beiträge mit Anzeichen für den verdeckten Einsatz von ChatGPT, vor allem zu umstrittenen Themen wie Umwelt und Gesundheit. Die meisten dieser Arbeiten erschienen in nicht indexierten Zeitschriften, einige aber auch in … Weiterlesen …

YouTube erlaubt Nutzern, KI-Imitate zu melden

YouTube erlaubt es Nutzern nun, die Entfernung von KI-generierten Inhalten zu beantragen, die ihr Gesicht oder ihre Stimme simulieren.YouTube prüft jeden Antrag individuell und berücksichtigt dabei Faktoren wie die Kennzeichnung des Inhalts als synthetisch, die eindeutige Identifizierung der Person und den möglichen Wert des Inhalts.

Kosten durch Deepfake-Betrug steigen auf 40 Mrd. US-Dollar bis 2027

Die Kosten durch Deepfake-Betrug werden laut Deloitte bis 2027 auf 40 Milliarden US-Dollar steigen, wobei Banken und Finanzdienstleister besonders gefährdet sind. Die Technologie werde immer ausgefeilter und erschwinglicher, sodass Angreifer Deepfake-Videos, -Stimmen und -Dokumente erstellen können, um Unternehmen zu täuschen. Besonders CEOs sind Ziel solcher Angriffe, die häufig mit Phishing-Attacken, Ransomware und anderen Cyberbedrohungen kombiniert werden.

Die unrühmliche Geschichte eines KI-getriebenen Newsportals

BNN Breaking, eine Nachrichtenseite mit Millionen von Lesern, einem internationalen Journalistenteam und einer Partnerschaft mit Microsoft, erwies sich als Quelle zahlreicher Fehler und Falschmeldungen. Ehemalige Mitarbeiter berichten, dass die Seite in großem Umfang auf KI-generierte Inhalte setzte, die oft ohne ausreichende Prüfung veröffentlicht wurden. Dies führte zu Beschwerden von Personen, die fälschlicherweise in Artikeln genannt wurden, … Weiterlesen …

Was ist das Äquivalent zu Spam für KI-generierten Müllcontent?

So wie unerwünschter Werbemüll landläufig als „Spam“ bekannt ist, könnte unerwünschter, KI-generierter Müllcontent als „Slop“ bezeichnet werden. Das findet jedenfalls Simon Willison, dem dieser Begriff aufgefallen ist und ihn in einem Blogpost vorschlägt. Das englische Slop meint ins Deutsche übersetzt etwa „Gefasel“ oder „Geseiere“, aber auch „Pampe“ oder „Matsche“. Und ich finde, das passt doch … Weiterlesen …

„Content Monster“ AdVon

Dieser Artikel deckt auf, wie die Firma AdVon mit gefälschten Autoren und möglicherweise KI-generierten Inhalten die Medienbranche infiltriert. AdVon beliefert Publikationen mit unzähligen Produktbewertungen, die mit Affiliate-Links gespickt sind und durch Google-Suchanfragen Traffic generieren sollen. Es wird vermutet, dass AdVon die Artikel mittels KI erstellt und dabei menschliche Autoren durch Software ersetzt. Mehrere Indizien, wie … Weiterlesen …

Betrüger nutzen KI für gefälschte Werbung

Betrüger haben die Gesichter und Stimmen von Frauen aus sozialen Netzwerken genutzt, um mit Hilfe von KI-Technologie gefälschte Werbung für anstößige Produkte zu erstellen. Obwohl die Opfer sich in ihren Persönlichkeitsrechten verletzt fühlen, gibt es bisher offenbar wenig rechtliche Handhabe gegen diese neue Form des Identitätsdiebstahls, da die Täter schwer zu fassen sind und es an entsprechenden … Weiterlesen …

Eine halbe Million Dollar mit KI-erzeugten Spam-Inhalten

Nebojša Vujinović Vujo kauft aufgegebene Nachrichtenwebsites und füllt sie mit KI-generierten Inhalten, um Werbeeinnahmen zu erzielen. Vujos profitabelster Erwerb war The Frisky, das im ersten Jahr über 500.000 US-Dollar Umsatz erzielte. Die Besucherzahlen seiner Websites sind jedoch im Laufe der Zeit gesunken, möglicherweise weil Suchmaschinen besser darin werden, Spam-Inhalte zu erkennen. Lesen …

ChatGPT-Fehlermeldung als Produktname auf Amazon

Ein gutes Beispiel für die Empfehlung, eine KI nicht unbeaufsichtigt arbeiten zu lassen: Zahlreiche Produkte sind bei Amazon in den USA aufgetaucht, die eine ChatGPT-Fehlermeldung als Titel haben …