Missbrauch

Dieser KI-Detektor kann Karrieren beenden, ist aber alles andere als zuverlässig

Ein KI-Erkennungsprogramm namens Pangram hat sich zur zentralen Instanz entwickelt, wenn es darum geht, KI-generierten Text aufzuspüren. Das Tool beeinflusst Entscheidungen bei Verlagen, Universitäten und wissenschaftlichen Institutionen. Matteo Wong berichtet für The Atlantic, dass Pangram unter anderem einen Horroroman vor seiner Veröffentlichung zu Fall brachte und Texte in großen Zeitungen, preisgekrönte Kurzgeschichten sowie Teile der …

Weiterlesen …

KI-Influencer verdrängen menschliche Konkurrenz in sozialen Netzwerken

Künstlich erzeugte Avatare überschwemmen soziale Medien. Sie bewerben Produkte, gewinnen treue Follower und geben sich dabei oft als echte Menschen aus. Charlie Warzel berichtet für The Atlantic über dieses Phänomen. Als Gesprächspartnerin zieht er Tiffany Hsu hinzu, Technologiereporterin der New York Times, die zum Aufstieg synthetischer Influencer recherchiert hat. Ein konkretes Beispiel ist Melanskia, ein …

Weiterlesen …

KI-Suchergebnisse lassen sich manipulieren, und diese Firmen tun es bereits

KI-gestützte Suchwerkzeuge wie Googles AI Mode oder ChatGPT entscheiden zunehmend darüber, welche Marken Verbraucher überhaupt zu Gesicht bekommen. Die SEO-Branche versucht diesen Einfluss zu nutzen, und manche Methoden zeigen bereits Wirkung. The Verge berichtet über eine wachsende Welle von Manipulationsversuchen, die auf KI-Suchsysteme abzielen. Eine weit verbreitete Taktik: Unternehmen veröffentlichen auf eigenen Websites sogenannte „Best …

Weiterlesen …

Liebesromanautorin schreibt mit KI über 200 Bücher pro Jahr

Die Romanautorin Coral Hart produziert über 200 Bücher jährlich mithilfe künstlicher Intelligenz. Sie verdient damit einen sechsstelligen Betrag auf Amazon. Was früher Monate dauerte, schafft sie heute in 45 Minuten. Alexandra Alter berichtet für The New York Times, dass die Liebesromanbranche KI-Schreibwerkzeuge schnell angenommen hat. Hart lebt in Kapstadt und wurde von Harlequin und Mills …

Weiterlesen …

Großbritannien und Irland verschärfen Gesetze gegen KI-Deepfakes

Die Regierungen von Großbritannien und Irland ergreifen rechtliche Maßnahmen gegen den Missbrauch von künstlicher Intelligenz. Im Fokus stehen sogenannte Deepfakes und die Erstellung nicht einvernehmlicher intimer Bilder. Die britische Regierung setzt diese Woche ein Gesetz in Kraft, das die Erstellung oder Anforderung solcher Bilder unter Strafe stellt. Die britische Technologieministerin Liz Kendall erklärte, dass auch …

Weiterlesen …

39C3 Talk: Wie Wikipedia gegen KI-generierte Artikel kämpft

Mathias Schindler, langjähriger Wikipedia-Autor und Mitgründer von Wikimedia Deutschland, berichtet auf der 39C3-Konferenz in Hamburg von einer beunruhigenden Entdeckung. Bei der Entwicklung eines Tools zur Überprüfung von ISBN-Prüfsummen in der deutschsprachigen Wikipedia stieß er auf ein erhebliches Problem: Artikel mit komplett erfundenen Literaturangaben, die von großen Sprachmodellen erzeugt wurden. Das Problem trat zutage, als Schindler …

Weiterlesen …

Die Autorin, die es nicht gab: Anatomie eines Journalismus-Betrugs im ChatGPT-Zeitalter

Die Routine-Recherche eines Magazin-Redakteurs hat einen mutmaßlich weltweiten Betrugsfall aufgedeckt. Der Fall zeigt, wie künstliche Intelligenz das Fälschen journalistischer Arbeit erschreckend einfach gemacht hat. Nicholas Hune-Brown berichtet für The Local über seine Entdeckung einer Autorin namens Victoria Goldiee. Ihre Arbeiten enthielten erfundene Zitate, nicht existierende Quellen und vermutlich KI-generierte Inhalte. Vier große Publikationen haben ihre …

Weiterlesen …

Großbritannien: KI-generiertes Bild stoppt Zugverkehr nach Erdbeben

Ein mutmaßlich KI-generiertes Bild mit falschen Schäden an einer Eisenbahnbrücke hat 32 Züge gestoppt. Die BBC berichtet, dass Network Rail den Verkehr über die Carlisle Bridge in Lancaster am Donnerstag um 00:30 GMT einstellte. Das manipulierte Bild war nach einem Erdbeben in Lancashire in sozialen Medien aufgetaucht. Ein BBC-Journalist prüfte das Bild mit einem KI-Chatbot. …

Weiterlesen …

Kagi Search startet Community-Initiative gegen KI-„Slop“

Der Suchmaschinenanbieter Kagi hat eine neue Funktion namens SlopStop eingeführt, die minderwertige, KI-generierte Inhalte bekämpfen soll. Das System ermöglicht es Nutzern, sogenannten „AI Slop“ in den Suchergebnissen für Webseiten, Bilder und Videos zu melden. Das Unternehmen berichtet in seinem Firmenblog, dass es KI-Slop als irreführende oder minderwertige Inhalte definiert, die zur Manipulation von Suchergebnissen erstellt …

Weiterlesen …

KI für Immobilienanzeigen: Die feine Grenze zur Irreführung

Immobilienmakler nutzen zunehmend generative künstliche Intelligenz, um Wohnungen und Häuser zu vermarkten. Das berichtet Kat Tenbarge für das Magazin Wired. Mit KI-Werkzeugen erstellen sie aus Fotos ganze Videorundgänge, möblieren leere Räume virtuell und verfassen Objektbeschreibungen. Branchenkennern zufolge setzt eine große Mehrheit der Makler bereits KI ein. Befürworter betonen die erhebliche Kosten- und Zeitersparnis. Alok Gupta, …

Weiterlesen …

×