Googles KI-Funktion „AI Overviews“ liefert in rund 91 Prozent der Fälle korrekte Antworten. Das klingt erst einmal gut, aber Tripp Mickle und Kollegen berichten für die New York Times, dass Google damit dennoch zig Millionen fehlerhafte Antworten pro Stunde ausgibt. Die Zeitung beauftragte das KI-Startup Oumi mit einer Analyse, die auf dem Branchenstandard SimpleQA basiert. …
Ein verblüffend einfacher Test hat eine weitverbreitete Logikschwäche aktueller KI-Modelle aufgedeckt. Felix Wunderlich schreibt bei opper.ai, dass 42 von 53 der getesteten Systeme eine einfach scheinende Frage falsch beantwortet haben: „Ich möchte mein Auto waschen. Die Waschanlage ist 50 Meter entfernt. Soll ich laufen oder fahren?“ Die richtige Antwort lautet natürlich: fahren. Das Auto muss …
Ein Bug in Google Gemini lässt die Chatverläufe vieler Nutzer aus der Seitenleiste verschwinden. Gesprächslisten werden leer angezeigt, manche Nutzer verlieren bis zu einem Jahr gespeicherter Chats. Berichte kommen aus Reddit, dem Google-Support-Forum und anderen Plattformen. Betroffen sind sowohl kostenlose als auch zahlende Nutzer, darunter Gemini Pro und Gemini Business. Den Berichten zufolge wurden die …
Studierende in den USA verwenden sogenannte KI-Humanizer, um falsche Betrugsvorwürfe zu vermeiden. Viele haben nie künstliche Intelligenz für ihre Arbeiten verwendet. Tyler Kingkade berichtet für NBC News. Der Einsatz von KI-Detektoren auf dem Campus hat einen eskalierenden Konflikt ausgelöst. Professoren prüfen Arbeiten mit Programmen wie Turnitin und GPTZero auf KI-generierte Inhalte. Die Detektoren gelten jedoch …
Ein KI-Modell von Anthropic übernahm für drei Wochen die Leitung eines Verkaufsautomaten in der Redaktion des Wall Street Journal. Das Experiment sollte zeigen, wie autonom generative KI-Agenten in einem geschäftlichen Umfeld agieren. Joanna Stern berichtet für das Wall Street Journal, dass der Versuch in einem finanziellen Desaster endete. Der KI-Agent erhielt den Namen Claudius. Das …
Große Sprachmodelle (LLMs) erzeugen Text auf Basis statistischer Muster und nicht auf Grundlage eines Verständnisses von Wahrheit. Das macht sie im Wesentlichen zu „Bullshittern“, denen Fakten gleichgültig sind. Dieses Merkmal ist ein Kern ihrer Funktionsweise, den Nutzer verstehen müssen, um sie sicher und effektiv einzusetzen. Diesen Standpunkt vertritt Matt Ranger, Leiter für maschinelles Lernen beim …
KI-Tools, die in Videokonferenzen Notizen anfertigen, zeichnen dabei auch private Unterhaltungen und Scherze auf. Diese werden mitunter an alle Teilnehmenden verschickt, was zu peinlichen Situationen führen kann. Darüber berichtet Ann-Marie Alcántara im Wall Street Journal und beschreibt, wie die Werkzeuge das gesamte Meeting erfassen, auch Gespräche vor dem offiziellen Beginn. Der Artikel nennt mehrere Beispiele. …
Scale AI hatte zwischen März 2023 und April 2024 erhebliche Spam- und Sicherheitsprobleme beim Training von Googles Gemini-Chatbot. Dies geht aus internen Dokumenten hervor, die das Magazin Inc. erhalten hat. Die Probleme betrafen das „Bulba Experts“-Programm, das qualifizierte Spezialisten für die Verbesserung von Googles KI-System einsetzen sollte. Die Dokumente zeigen, dass unqualifizierte Auftragnehmer die Plattform …
Mehrere Autoren von Liebesromanen haben versehentlich KI-Prompts in ihren veröffentlichten Büchern hinterlassen. Dies enthüllte ihre Nutzung künstlicher Intelligenz beim Schreiben. Matthew Gault berichtete für 404 Media über verdächtige Textpassagen in mindestens drei aktuellen Romance-Publikationen. In „Darkhollow Academy: Year 2“ von Lena McDonald entdeckten Leser den Text: „I’ve rewritten the passage to align more with J. …
Mehrere Versicherer von Lloyd’s of London haben ein neues Versicherungsprodukt eingeführt, das Unternehmen vor finanziellen Verlusten durch fehlerhafte KI-Systeme schützt. Die vom Startup Armilla entwickelten Policen decken Gerichtskosten und Schadenersatzforderungen ab, wenn KI-Tools wie Chatbots unter ihrer erwarteten Leistung bleiben. Laut eines Berichts von Harris und Heikkilä in der Financial Times zielt das Produkt auf …