Hintergrund

DarkBench-Framework erkennt manipulatives KI-Verhalten

KI-Sicherheitsforscher haben das erste Bewertungssystem entwickelt, das manipulative Verhaltensweisen in großen Sprachmodellen aufdeckt. Der Anlass war ein problematischer Vorfall mit ChatGPT-4o, das Nutzer übermäßig schmeichelte. Leon Yen berichtete über die Entwicklung für VentureBeat. Das DarkBench-Framework stammt von Apart Research-Gründer Esben Kran und Mitarbeitern. Es identifiziert sechs Kategorien problematischer KI-Verhaltensweisen. Dazu gehören Markenbevorzugung, Nutzerbindungstaktiken, Schmeichelei, Vermenschlichung, …

Weiterlesen …

ChatGPTs „Gedächtnis“ wirft Fragen zu Privatsphäre und Kontrolle auf

ChatGPT hat seit April ein erweiterte Gedächtnisfunktion, die vergangene Gespräche nutzt, um personalisierte Antworten zu liefern, was allerdings unerwarteten Folgen für die Nutzer haben kann. Simon Willison beschreibt in einem Blogbeitrag, wie dieses Feature automatisch eine umfassende Sammlung von Nutzerinteraktionen anlegt, die ohne klare Kontrollmöglichkeiten alle zukünftigen Gespräche beeinflusst. Die Funktion ist nur für Plus- …

Weiterlesen …

Analyse: Energieverbrauch und Umweltauswirkungen von KI

Eine neue Analyse des MIT Technology Review bietet einen umfassenden Einblick in den Energieverbrauch von künstlicher Intelligenz und deckt erhebliche Umweltauswirkungen auf. Die Forschung untersuchte den Energiebedarf von KI-Systemen bis hin zu einzelnen Anfragen. Laut der Analyse haben Rechenzentren ihren Stromverbrauch zwischen 2017 und 2023 verdoppelt, wobei KI-Hardware einen Großteil dieses Anstiegs verursacht. Derzeit verbrauchen …

Weiterlesen …

Analyse: AI-Nutzungstrends bei führenden Modellen im Frühjahr 2025

Ein neuer Bericht von Poe gibt Einblick in die Nutzungstrends von KI-Modellen von Januar bis Mai 2025 und zeigt bedeutende Verschiebungen in den Nutzerpräferenzen bei Text-, Reasoning-, Bild-, Video- und Audio-Generierungsmodellen. Der Bericht basiert auf aggregierten Nutzungsdaten der Poe-Plattform, die Anwendern anbieterunabhängigen Zugang zu verschiedenen KI-Modellen ermöglicht. Assistenten: Den Ergebnissen zufolge gewannen OpenAIs GPT-4.1-Familie und …

Weiterlesen …

Neuer Benchmark: Führende KI-Modelle produzieren selbstsicher falsche Informationen

Ein neuer Benchmark namens Phare zeigt, dass führende Large Language Models (LLMs) häufig falsche Informationen mit hoher Überzeugungskraft generieren, besonders bei der Verarbeitung von Fehlinformationen. Die von Giskard in Zusammenarbeit mit Partnern wie Google DeepMind durchgeführte Untersuchung bewertete die Top-Modelle von acht KI-Anbietern in mehreren Sprachen. Die Phare-Benchmark konzentriert sich auf vier kritische Bereiche: Halluzination, …

Weiterlesen …

Wie Fake Content den legitimen Bloggern schadet

Der selbsternannte SEO-Spezialist Jesse Cunningham hat offen darüber gesprochen, wie er mit KI gefälschte Inhalte erstellt, die speziell auf ältere Frauen auf Facebook und Pinterest abzielen. Laut eines Berichts von Maggie Harrison Dupré für Futurism produziert Cunningham große Mengen KI-generierter Artikel und Bilder zu Themen wie Zimmerpflanzen oder Rezepte und schreibt diese fiktiven Bloggern mit …

Weiterlesen …

Generative KI überholt Cybersicherheit als wichtigste Budgetpriorität

Eine neue AWS-Studie zeigt, dass generative KI die Cybersicherheit als wichtigsten Budgetschwerpunkt für IT-Führungskräfte im Jahr 2025 überholt hat. Laut des AWS Generative AI Adoption Index, der 3.739 IT-Entscheidungsträger in neun Ländern befragte, priorisieren 45% der Organisationen Ausgaben für generative KI gegenüber Sicherheitstools (30%). Die Befragung zeigt, dass 90% der Organisationen bereits generative KI-Technologien einsetzen, …

Weiterlesen …

KI ersetzt bereits Arbeitsplätze in verschiedenen Branchen

Eine aktuelle Analyse von Brian Merchant zeigt, dass die Verdrängung von Arbeitsplätzen durch KI keine zukünftige Sorge, sondern bereits Realität ist. In seiner Publikation „Blood in the Machine“ dokumentiert Merchant, wie Unternehmen wie Duolingo bereits bis zu 100 Mitarbeiter, hauptsächlich Autoren und Übersetzer, durch KI-Systeme ersetzt haben, trotz anderslautender öffentlicher Aussagen. Die Jobkrise geht über …

Weiterlesen …

KI verändert menschlichen Zweck im Zuge der kognitiven Migration

Eine grundlegende Veränderung menschlicher Denkprozesse ist im Gange, da künstliche Intelligenz zunehmend Aufgaben übernimmt, die früher ausgebildeten Fachkräften vorbehalten waren. Gary Grossman, Executive Vice President bei Edelman, beschreibt dieses Phänomen in seinem aktuellen Artikel als „kognitive Migration“. Anders als bei geografischen Wanderungen müssen Menschen neue geistige Bereiche finden, in denen ihre Beiträge wertvoll bleiben. Grossman …

Weiterlesen …

Metas KI-App sammelt umfassend Nutzerdaten und weckt Datenschutzbedenken

Die neue KI-Chatbot-App von Meta sammelt umfangreiche Nutzerdaten und gefährdet möglicherweise die Privatsphäre, berichtet Washington-Post-Kolumnist Geoffrey A. Fowler. Die App, die auf Platz zwei der kostenlosen iPhone-Downloads kletterte, verknüpft sich mit Facebook- und Instagram-Konten und greift so auf jahrelang gesammelte persönliche Informationen zu. Im Gegensatz zu Konkurrenten wie ChatGPT und Google Gemini speichert Meta AI …

Weiterlesen …