Ein KI-Modell von Anthropic übernahm für drei Wochen die Leitung eines Verkaufsautomaten in der Redaktion des Wall Street Journal. Das Experiment sollte zeigen, wie autonom generative KI-Agenten in einem geschäftlichen Umfeld agieren. Joanna Stern berichtet für das Wall Street Journal, dass der Versuch in einem finanziellen Desaster endete. Der KI-Agent erhielt den Namen Claudius. Das …
Große Sprachmodelle (LLMs) erzeugen Text auf Basis statistischer Muster und nicht auf Grundlage eines Verständnisses von Wahrheit. Das macht sie im Wesentlichen zu „Bullshittern“, denen Fakten gleichgültig sind. Dieses Merkmal ist ein Kern ihrer Funktionsweise, den Nutzer verstehen müssen, um sie sicher und effektiv einzusetzen. Diesen Standpunkt vertritt Matt Ranger, Leiter für maschinelles Lernen beim …
KI-Tools, die in Videokonferenzen Notizen anfertigen, zeichnen dabei auch private Unterhaltungen und Scherze auf. Diese werden mitunter an alle Teilnehmenden verschickt, was zu peinlichen Situationen führen kann. Darüber berichtet Ann-Marie Alcántara im Wall Street Journal und beschreibt, wie die Werkzeuge das gesamte Meeting erfassen, auch Gespräche vor dem offiziellen Beginn. Der Artikel nennt mehrere Beispiele. …
Scale AI hatte zwischen März 2023 und April 2024 erhebliche Spam- und Sicherheitsprobleme beim Training von Googles Gemini-Chatbot. Dies geht aus internen Dokumenten hervor, die das Magazin Inc. erhalten hat. Die Probleme betrafen das „Bulba Experts“-Programm, das qualifizierte Spezialisten für die Verbesserung von Googles KI-System einsetzen sollte. Die Dokumente zeigen, dass unqualifizierte Auftragnehmer die Plattform …
Mehrere Autoren von Liebesromanen haben versehentlich KI-Prompts in ihren veröffentlichten Büchern hinterlassen. Dies enthüllte ihre Nutzung künstlicher Intelligenz beim Schreiben. Matthew Gault berichtete für 404 Media über verdächtige Textpassagen in mindestens drei aktuellen Romance-Publikationen. In „Darkhollow Academy: Year 2“ von Lena McDonald entdeckten Leser den Text: „I’ve rewritten the passage to align more with J. …
Mehrere Versicherer von Lloyd’s of London haben ein neues Versicherungsprodukt eingeführt, das Unternehmen vor finanziellen Verlusten durch fehlerhafte KI-Systeme schützt. Die vom Startup Armilla entwickelten Policen decken Gerichtskosten und Schadenersatzforderungen ab, wenn KI-Tools wie Chatbots unter ihrer erwarteten Leistung bleiben. Laut eines Berichts von Harris und Heikkilä in der Financial Times zielt das Produkt auf …
Die Datenschutzorganisation Noyb hat eine DSGVO-Beschwerde gegen OpenAI eingereicht, nachdem ChatGPT fälschlicherweise behauptete, ein Norweger hätte zwei seiner Kinder ermordet. Die KI-Anwendung generierte völlig erfundene Informationen über Arve Hjalmar Holmen, wonach er wegen Mordes an seinen Söhnen zu 21 Jahren Haft verurteilt worden sei, wie TechCrunch-Autorin Natasha Lomas berichtet. Der Fall verdeutlicht die ernsten Probleme …
Apple führt mit iOS 18.3 beta 3 wichtige Änderungen an seinen Intelligence-Benachrichtigungszusammenfassungen ein, berichtet Chance Miller für 9to5mac. Die KI-generierten Zusammenfassungen werden vorübergehend für News- und Unterhaltungs-Apps deaktiviert. Diese Entscheidung folgt auf Beschwerden verschiedener Medienunternehmen, darunter die BBC, über die Genauigkeit der Funktionen. Das Update bringt mehrere Verbesserungen: Zusammenfassungen erscheinen nun in Kursivschrift, die Beta-Phase …
Meta hat seine KI-gesteuerten Social-Media-Profile nach problematischen Nutzerinteraktionen eingestellt. Wie Johana Bhuiyan in The Guardian berichtet, löschte das Unternehmen 28 KI-Personas, die im September 2023 eingeführt wurden. Die Profile, darunter eine African-American Persona namens „Liv“, führten zu Kontroversen, als Nutzer erfuhren, dass im Entwicklungsteam der KI keine schwarzen Mitarbeiter vertreten waren. Meta-Sprecherin Liz Sweeney bestätigte, …
Apple steht wegen seiner KI-Funktionen zur Zusammenfassungen von Benachrichtigungen weiter in der Kritik. Wie die BBC-Journalisten Zoe Kleinman, Liv McMahon und Natalie Sherman berichten, hat die Funktion mehrfach komplett falsche Nachrichten generiert. Die KI-Technologie fasst Eilmeldungen zusammen, erfand dabei aber Ereignisse, die nie stattgefunden haben. Mehrere Nachrichtenorganisationen, darunter die BBC, beschwerten sich über die Fehldarstellung …