Fail

Haftung: KI-Fehler könnten teuer werden für Google und andere Unternehmen

Ein deutsches Gericht hatte entschieden: Google haftet für Fehler in seinen KI-generierten Suchzusammenfassungen. Bruce Schneier schreibt auf Schneier on Security, dass das Gericht dabei Googles Argumentation zurückwies, wonach Nutzer KI-Ergebnisse selbst überprüfen müssten. Die Zusammenfassungen seien vielmehr „Ausdruck der Geschäftstätigkeit von Google“. Das Urteil befeuert eine alte Debatte: Sind Internetplattformen bloße Übermittler wie Telefonanbieter, oder …

Weiterlesen …

KPMG zieht KI-Bericht zurück: Halluzinationen beschädigen die Glaubwürdigkeit

KPMG hat einen Bericht über künstliche Intelligenz von seinen Websites entfernt. Mehrere darin erwähnte Organisationen erklärten, die Angaben über sie seien falsch. Anthony Ha berichtet für TechCrunch, dass die Fehler offenbar auf KI-Halluzinationen zurückgehen. Das bedeutet: Die Unternehmensberatung hat wahrscheinlich KI eingesetzt, um einen Bericht über den Einsatz von KI zu verfassen. Der Bericht trug …

Weiterlesen …

Dieser KI-Detektor kann Karrieren beenden, ist aber alles andere als zuverlässig

Ein KI-Erkennungsprogramm namens Pangram hat sich zur zentralen Instanz entwickelt, wenn es darum geht, KI-generierten Text aufzuspüren. Das Tool beeinflusst Entscheidungen bei Verlagen, Universitäten und wissenschaftlichen Institutionen. Matteo Wong berichtet für The Atlantic, dass Pangram unter anderem einen Horroroman vor seiner Veröffentlichung zu Fall brachte und Texte in großen Zeitungen, preisgekrönte Kurzgeschichten sowie Teile der …

Weiterlesen …

Googles brandneue KI-Suche scheitert bei einfachen Wortsuchen

Googles neue Suchoberfläche hat neuartige Probleme. Wer das englische Wort „disregard“ eingibt, erhält eine nahezu leere KI-Antwort. Russell Brandom berichtet für TechCrunch, dass das neue Design klassische Suchergebnisse weit nach unten verdrängt. An ihrer Stelle erscheinen KI-Zusammenfassungen, die in diesem Fall aber keinerlei nützliche Information liefern. Google hat seine Suche grundlegend umgebaut. KI-generierte Zusammenfassungen stehen …

Weiterlesen …

Ein erfundener Hot-Dog-Champion deckt Schwäche in KI-Antworten auf

KI-Chatbots lassen sich mit einfachen Mitteln dazu bringen, Fehlinformationen zu verbreiten. Thomas Germain berichtet für die BBC, dass ein einziger, gezielt formulierter Blogbeitrag ausreicht, um Antworten von Tools wie ChatGPT, Google Gemini und Googles KI-Übersichten zu manipulieren. Germain belegte das Problem mit einem Selbstversuch. Er veröffentlichte einen Artikel auf seiner privaten Website, in dem er …

Weiterlesen …

Studie: KI-Modelle verfälschen Dokumente bei mehrstufigen Arbeitsabläufen

Eine neue Studie von Microsoft Research zeigt, dass große Sprachmodelle (Large Language Models, LLMs) Dokumente bei komplexen, mehrstufigen Arbeitsabläufen unbemerkt verändern. Ben Dickson berichtet für VentureBeat, dass selbst die leistungsstärksten KI-Modelle durchschnittlich 25 Prozent des Dokumenteninhalts verfälschen. Das Forschungsteam entwickelte dafür einen Benchmark namens DELEGATE-52. Er simuliert automatisierte Arbeitsabläufe in 52 Berufsfeldern, darunter Finanzbuchhaltung, Softwareentwicklung …

Weiterlesen …

Oft richtig, aber nicht gut genug: Googles KI-Überblicke im Test

Googles KI-Funktion „AI Overviews“ liefert in rund 91 Prozent der Fälle korrekte Antworten. Das klingt erst einmal gut, aber Tripp Mickle und Kollegen berichten für die New York Times, dass Google damit dennoch zig Millionen fehlerhafte Antworten pro Stunde ausgibt. Die Zeitung beauftragte das KI-Startup Oumi mit einer Analyse, die auf dem Branchenstandard SimpleQA basiert. …

Weiterlesen …

Zur Autowaschanlage laufen oder fahren? Die meisten KI-Modelle liegen daneben

Ein verblüffend einfacher Test hat eine weitverbreitete Logikschwäche aktueller KI-Modelle aufgedeckt. Felix Wunderlich schreibt bei opper.ai, dass 42 von 53 der getesteten Systeme eine einfach scheinende Frage falsch beantwortet haben: „Ich möchte mein Auto waschen. Die Waschanlage ist 50 Meter entfernt. Soll ich laufen oder fahren?“ Die richtige Antwort lautet natürlich: fahren. Das Auto muss …

Weiterlesen …

Fehler bei Google Gemini leert Chatverlauf für Nutzer weltweit

Ein Bug in Google Gemini lässt die Chatverläufe vieler Nutzer aus der Seitenleiste verschwinden. Gesprächslisten werden leer angezeigt, manche Nutzer verlieren bis zu einem Jahr gespeicherter Chats. Berichte kommen aus Reddit, dem Google-Support-Forum und anderen Plattformen. Betroffen sind sowohl kostenlose als auch zahlende Nutzer, darunter Gemini Pro und Gemini Business. Den Berichten zufolge wurden die …

Weiterlesen …

Studierende nutzen KI-Tools gegen KI-Betrugsvorwürfe

Studierende in den USA verwenden sogenannte KI-Humanizer, um falsche Betrugsvorwürfe zu vermeiden. Viele haben nie künstliche Intelligenz für ihre Arbeiten verwendet. Tyler Kingkade berichtet für NBC News. Der Einsatz von KI-Detektoren auf dem Campus hat einen eskalierenden Konflikt ausgelöst. Professoren prüfen Arbeiten mit Programmen wie Turnitin und GPTZero auf KI-generierte Inhalte. Die Detektoren gelten jedoch …

Weiterlesen …

×