Kritik

Kreativprofi meldet 50 Prozent weniger Einkommen durch KI-Tools

Kreativprofi David Neal berichtet über massive Auswirkungen generativer KI auf sein Einkommen als Illustrator. Er arbeitet in Softwareentwicklung, Content-Erstellung, Illustration und Musik. Er meldete einen Rückgang der Illustration-Aufträge um mehr als 50 Prozent im vergangenen Jahr. Seit 2018 betreibt der Profi ein Nebengeschäft mit Cartoon-Avataren und Illustrationen. Die Arbeit brachte nie ein Vollzeiteinkommen, generierte aber …

Weiterlesen …

DarkBench-Framework erkennt manipulatives KI-Verhalten

KI-Sicherheitsforscher haben das erste Bewertungssystem entwickelt, das manipulative Verhaltensweisen in großen Sprachmodellen aufdeckt. Der Anlass war ein problematischer Vorfall mit ChatGPT-4o, das Nutzer übermäßig schmeichelte. Leon Yen berichtete über die Entwicklung für VentureBeat. Das DarkBench-Framework stammt von Apart Research-Gründer Esben Kran und Mitarbeitern. Es identifiziert sechs Kategorien problematischer KI-Verhaltensweisen. Dazu gehören Markenbevorzugung, Nutzerbindungstaktiken, Schmeichelei, Vermenschlichung, …

Weiterlesen …

ChatGPTs „Gedächtnis“ wirft Fragen zu Privatsphäre und Kontrolle auf

ChatGPT hat seit April ein erweiterte Gedächtnisfunktion, die vergangene Gespräche nutzt, um personalisierte Antworten zu liefern, was allerdings unerwarteten Folgen für die Nutzer haben kann. Simon Willison beschreibt in einem Blogbeitrag, wie dieses Feature automatisch eine umfassende Sammlung von Nutzerinteraktionen anlegt, die ohne klare Kontrollmöglichkeiten alle zukünftigen Gespräche beeinflusst. Die Funktion ist nur für Plus- …

Weiterlesen …

Analyse: Energieverbrauch und Umweltauswirkungen von KI

Eine neue Analyse des MIT Technology Review bietet einen umfassenden Einblick in den Energieverbrauch von künstlicher Intelligenz und deckt erhebliche Umweltauswirkungen auf. Die Forschung untersuchte den Energiebedarf von KI-Systemen bis hin zu einzelnen Anfragen. Laut der Analyse haben Rechenzentren ihren Stromverbrauch zwischen 2017 und 2023 verdoppelt, wobei KI-Hardware einen Großteil dieses Anstiegs verursacht. Derzeit verbrauchen …

Weiterlesen …

Neuer Benchmark: Führende KI-Modelle produzieren selbstsicher falsche Informationen

Ein neuer Benchmark namens Phare zeigt, dass führende Large Language Models (LLMs) häufig falsche Informationen mit hoher Überzeugungskraft generieren, besonders bei der Verarbeitung von Fehlinformationen. Die von Giskard in Zusammenarbeit mit Partnern wie Google DeepMind durchgeführte Untersuchung bewertete die Top-Modelle von acht KI-Anbietern in mehreren Sprachen. Die Phare-Benchmark konzentriert sich auf vier kritische Bereiche: Halluzination, …

Weiterlesen …

Klarna setzt wieder auf menschlichen Kundenservice neben KI

Klarna ändert seine Kundendienstsstrategie und führt menschliche Mitarbeiter wieder ein, nachdem das Unternehmen zuvor seinen KI-Chatbot als Ersatz für 700 Kundenbetreuer angepriesen hatte. Wie Kristen Doerer von CX Dive berichtet, möchte der Zahlungsdienstleister nun sicherstellen, dass Kunden immer die Möglichkeit haben, mit einem Menschen zu sprechen. CEO Sebastian Siemiatkowski räumte in einem Bloomberg-Interview ein, dass …

Weiterlesen …

Wie Fake Content den legitimen Bloggern schadet

Der selbsternannte SEO-Spezialist Jesse Cunningham hat offen darüber gesprochen, wie er mit KI gefälschte Inhalte erstellt, die speziell auf ältere Frauen auf Facebook und Pinterest abzielen. Laut eines Berichts von Maggie Harrison Dupré für Futurism produziert Cunningham große Mengen KI-generierter Artikel und Bilder zu Themen wie Zimmerpflanzen oder Rezepte und schreibt diese fiktiven Bloggern mit …

Weiterlesen …

Metas KI-App sammelt umfassend Nutzerdaten und weckt Datenschutzbedenken

Die neue KI-Chatbot-App von Meta sammelt umfangreiche Nutzerdaten und gefährdet möglicherweise die Privatsphäre, berichtet Washington-Post-Kolumnist Geoffrey A. Fowler. Die App, die auf Platz zwei der kostenlosen iPhone-Downloads kletterte, verknüpft sich mit Facebook- und Instagram-Konten und greift so auf jahrelang gesammelte persönliche Informationen zu. Im Gegensatz zu Konkurrenten wie ChatGPT und Google Gemini speichert Meta AI …

Weiterlesen …

Studie zeigt mögliche Bevorzugung großer KI-Anbieter durch LM Arena

Eine neue Studie von Forschern aus den Organisationen Cohere, Stanford, MIT und Ai2 wirft LM Arena vor, großen KI-Unternehmen Vorzugsbehandlung zu gewähren. Laut eines Berichts von Maxwell Zeff bei TechCrunch durften Firmen wie Meta, OpenAI, Google und Amazon mehrere Modellvarianten privat testen und nur die Ergebnisse der besten veröffentlichen. Die Forscher behaupten, Meta habe vor …

Weiterlesen …

Pinterest führt Kennzeichnung und Filter für KI-Inhalte ein

Pinterest implementiert neue Funktionen zur Identifizierung von KI-generierten Inhalten auf seiner Plattform. Bilder, die mit generativer KI erstellt oder bearbeitet wurden, erhalten eine „KI-modifiziert“-Kennzeichnung in der unteren linken Ecke bei Nahansicht. Laut eines Berichts von Jess Weatherbed in The Verge erklärte Pinterests Technologiechef Matt Madrigal, dass diese Maßnahmen Nutzern helfen sollen, informierte Entscheidungen über gesehene …

Weiterlesen …