Fail

Apple deaktiviert KI-Zusammenfassungen für News-Apps in iOS 18.3

Apple führt mit iOS 18.3 beta 3 wichtige Änderungen an seinen Intelligence-Benachrichtigungszusammenfassungen ein, berichtet Chance Miller für 9to5mac. Die KI-generierten Zusammenfassungen werden vorübergehend für News- und Unterhaltungs-Apps deaktiviert. Diese Entscheidung folgt auf Beschwerden verschiedener Medienunternehmen, darunter die BBC, über die Genauigkeit der Funktionen. Das Update bringt mehrere Verbesserungen: Zusammenfassungen erscheinen nun in Kursivschrift, die Beta-Phase …

Weiterlesen …

Meta entfernt umstrittene KI-Profile

Meta hat seine KI-gesteuerten Social-Media-Profile nach problematischen Nutzerinteraktionen eingestellt. Wie Johana Bhuiyan in The Guardian berichtet, löschte das Unternehmen 28 KI-Personas, die im September 2023 eingeführt wurden. Die Profile, darunter eine African-American Persona namens „Liv“, führten zu Kontroversen, als Nutzer erfuhren, dass im Entwicklungsteam der KI keine schwarzen Mitarbeiter vertreten waren. Meta-Sprecherin Liz Sweeney bestätigte, …

Weiterlesen …

Apple’s KI-Zusammenfassungen weiter in der Kritik

Apple steht wegen seiner KI-Funktionen zur Zusammenfassungen von Benachrichtigungen weiter in der Kritik. Wie die BBC-Journalisten Zoe Kleinman, Liv McMahon und Natalie Sherman berichten, hat die Funktion mehrfach komplett falsche Nachrichten generiert. Die KI-Technologie fasst Eilmeldungen zusammen, erfand dabei aber Ereignisse, die nie stattgefunden haben. Mehrere Nachrichtenorganisationen, darunter die BBC, beschwerten sich über die Fehldarstellung …

Weiterlesen …

Apples KI-Funktion erzeugt Falschmeldungen

Eine neue KI-Funktion von Apple steht in der Kritik, nachdem sie irreführende Nachrichtenüberschriften generiert hat. Dies berichtet Graham Fraser von der BBC. Der Nachrichtensender hat sich bei Apple beschwert, nachdem die KI-gestützte Zusammenfassungsfunktion fälschlicherweise suggerierte, der Mordverdächtige Luigi Mangione habe sich selbst erschossen. Ein weiterer bemerkenswerter Fehler betraf einen Artikel der New York Times, bei …

Weiterlesen …

Microsoft Recall zeigt Sicherheitslücken bei sensiblen Daten

Microsofts neue Recall-Funktion weist erhebliche Sicherheitsmängel beim Schutz sensibler Daten auf. Wie Tests von Avram Piltch für Tom’s Hardware zeigen, erfasst die Software trotz aktiviertem Datenschutzfilter Kreditkartennummern und Sozialversicherungsdaten in verschiedenen Anwendungen. Während die Funktion sensible Informationen auf einigen E-Commerce-Websites erfolgreich blockiert, werden Eingaben in Notepad, PDF-Formularen und individuellen Webseiten ungeschützt gespeichert. Die nur für …

Weiterlesen …

Hawaiianische Zeitung beendet KI-Nachrichtensprecher-Experiment

Die lokale Zeitung „The Garden Island“ aus Hawaii hat ihr KI-gestütztes Nachrichtenformat nach zwei Monaten eingestellt. Wie Journalist Guthrie Scrimgeour berichtet, waren die virtuellen Moderatoren James und Rose die ersten ihrer Art in den USA. Das vom israelischen Unternehmen Caledo entwickelte System zeigte deutliche Schwächen bei der Aussprache und wirkte auf Zuschauer befremdlich. Das Projekt …

Weiterlesen …

OpenAI Whisper neigt zu Halluzinationen, sagen Forscher

Forscher haben festgestellt, dass OpenAIs KI-gestütztes Transkriptionstool Whisper dazu neigt, Text oder ganze Sätze zu erfinden. In Fachkreisen wird das oft als Halluzinationen bezeichnet. Whisper kommt dabei in verschiedenen Branchen wie auch dem Gesundheitswesen zum Einsatz. Laut Interviews von The Associated Press mit Softwareingenieuren, Entwicklern und akademischen Forschern, können diese Halluzinationen problematische Inhalte wie rassistische …

Weiterlesen …

So leicht lässt sich eine KI täuschen

Googles NotebookLM lässt sich durch manipulierte Webseiten täuschen. Der Entwickler Ted Benson demonstrierte dies, indem er seiner Webseite für Googles KI-Crawler eine erfundene Geschichte über eine Mondreise mit Fahrrad, Ballons und Taucherausrüstung präsentierte, während menschliche Besucher die reguläre Seite sahen. Er warnt, dass diese Methode, LLMs mit gezielten Lügen zu füttern, eine ernstzunehmende Gefahr darstellt. …

Weiterlesen …

Figma zieht KI-Tool „Make Designs“ zurück

Figma hat sein neues AI-Tool „Make Designs“ vorübergehend aus dem Verkehr gezogen, nachdem es Designs für eine Wetter-App erstellte, die Apples Version verblüffend ähnlich waren. Dies wirft die Frage auf, ob die von Figma verwendeten Modelle von OpenAI oder Amazon auf Apples Designs trainiert wurden. Figma hat die Verantwortung für den Vorfall übernommen und will die …

Weiterlesen …

Warum ChatGPT & Co. bisweilen grandios an Aufgaben scheitern

In einem früheren Smart Content Report zeigte ich eine kuriose bebilderte Anleitung, generiert von ChatGPTs Dall-E: Ich finde solche „Fails“ spannend zu sehen, weil sich dort oftmals grundsätzliche Probleme zeigen.  Wir sind z.B. immer noch ein gutes Stück von einer KI entfernt, die die Welt um sich herum tatsächlich versteht („General World Model“). Im Moment …

Weiterlesen …