Scale AI hatte zwischen März 2023 und April 2024 erhebliche Spam- und Sicherheitsprobleme beim Training von Googles Gemini-Chatbot. Dies geht aus internen Dokumenten hervor, die das Magazin Inc. erhalten hat. Die Probleme betrafen das „Bulba Experts“-Programm, das qualifizierte Spezialisten für die Verbesserung von Googles KI-System einsetzen sollte. Die Dokumente zeigen, dass unqualifizierte Auftragnehmer die Plattform …
Mehrere Autoren von Liebesromanen haben versehentlich KI-Prompts in ihren veröffentlichten Büchern hinterlassen. Dies enthüllte ihre Nutzung künstlicher Intelligenz beim Schreiben. Matthew Gault berichtete für 404 Media über verdächtige Textpassagen in mindestens drei aktuellen Romance-Publikationen. In „Darkhollow Academy: Year 2“ von Lena McDonald entdeckten Leser den Text: „I’ve rewritten the passage to align more with J. …
Mehrere Versicherer von Lloyd’s of London haben ein neues Versicherungsprodukt eingeführt, das Unternehmen vor finanziellen Verlusten durch fehlerhafte KI-Systeme schützt. Die vom Startup Armilla entwickelten Policen decken Gerichtskosten und Schadenersatzforderungen ab, wenn KI-Tools wie Chatbots unter ihrer erwarteten Leistung bleiben. Laut eines Berichts von Harris und Heikkilä in der Financial Times zielt das Produkt auf …
Die Datenschutzorganisation Noyb hat eine DSGVO-Beschwerde gegen OpenAI eingereicht, nachdem ChatGPT fälschlicherweise behauptete, ein Norweger hätte zwei seiner Kinder ermordet. Die KI-Anwendung generierte völlig erfundene Informationen über Arve Hjalmar Holmen, wonach er wegen Mordes an seinen Söhnen zu 21 Jahren Haft verurteilt worden sei, wie TechCrunch-Autorin Natasha Lomas berichtet. Der Fall verdeutlicht die ernsten Probleme …
Apple führt mit iOS 18.3 beta 3 wichtige Änderungen an seinen Intelligence-Benachrichtigungszusammenfassungen ein, berichtet Chance Miller für 9to5mac. Die KI-generierten Zusammenfassungen werden vorübergehend für News- und Unterhaltungs-Apps deaktiviert. Diese Entscheidung folgt auf Beschwerden verschiedener Medienunternehmen, darunter die BBC, über die Genauigkeit der Funktionen. Das Update bringt mehrere Verbesserungen: Zusammenfassungen erscheinen nun in Kursivschrift, die Beta-Phase …
Meta hat seine KI-gesteuerten Social-Media-Profile nach problematischen Nutzerinteraktionen eingestellt. Wie Johana Bhuiyan in The Guardian berichtet, löschte das Unternehmen 28 KI-Personas, die im September 2023 eingeführt wurden. Die Profile, darunter eine African-American Persona namens „Liv“, führten zu Kontroversen, als Nutzer erfuhren, dass im Entwicklungsteam der KI keine schwarzen Mitarbeiter vertreten waren. Meta-Sprecherin Liz Sweeney bestätigte, …
Apple steht wegen seiner KI-Funktionen zur Zusammenfassungen von Benachrichtigungen weiter in der Kritik. Wie die BBC-Journalisten Zoe Kleinman, Liv McMahon und Natalie Sherman berichten, hat die Funktion mehrfach komplett falsche Nachrichten generiert. Die KI-Technologie fasst Eilmeldungen zusammen, erfand dabei aber Ereignisse, die nie stattgefunden haben. Mehrere Nachrichtenorganisationen, darunter die BBC, beschwerten sich über die Fehldarstellung …
Eine neue KI-Funktion von Apple steht in der Kritik, nachdem sie irreführende Nachrichtenüberschriften generiert hat. Dies berichtet Graham Fraser von der BBC. Der Nachrichtensender hat sich bei Apple beschwert, nachdem die KI-gestützte Zusammenfassungsfunktion fälschlicherweise suggerierte, der Mordverdächtige Luigi Mangione habe sich selbst erschossen. Ein weiterer bemerkenswerter Fehler betraf einen Artikel der New York Times, bei …
Microsofts neue Recall-Funktion weist erhebliche Sicherheitsmängel beim Schutz sensibler Daten auf. Wie Tests von Avram Piltch für Tom’s Hardware zeigen, erfasst die Software trotz aktiviertem Datenschutzfilter Kreditkartennummern und Sozialversicherungsdaten in verschiedenen Anwendungen. Während die Funktion sensible Informationen auf einigen E-Commerce-Websites erfolgreich blockiert, werden Eingaben in Notepad, PDF-Formularen und individuellen Webseiten ungeschützt gespeichert. Die nur für …
Die lokale Zeitung „The Garden Island“ aus Hawaii hat ihr KI-gestütztes Nachrichtenformat nach zwei Monaten eingestellt. Wie Journalist Guthrie Scrimgeour berichtet, waren die virtuellen Moderatoren James und Rose die ersten ihrer Art in den USA. Das vom israelischen Unternehmen Caledo entwickelte System zeigte deutliche Schwächen bei der Aussprache und wirkte auf Zuschauer befremdlich. Das Projekt …