Forscher der University of California San Diego und der Tsinghua University haben eine Methode entwickelt, die die Fähigkeit künstlicher Intelligenz verbessert, zu erkennen, wann der Einsatz externer Werkzeuge sinnvoller ist als sich auf integriertes Wissen zu verlassen. Ähnlich wie menschliche Experten lernt die KI, Probleme nach ihrer Komplexität zu kategorisieren und entsprechend Werkzeuge einzusetzen oder …
Der Aufstieg der KI könnte bis 2030 zu einem Anstieg des weltweiten Elektroschrotts um 3-12% führen. Das ist das Ergebnis einer Studie von Forschern der Chinesischen Akademie der Wissenschaften und der Reichman Universität in Israel, veröffentlicht in der Fachzeitschrift Nature Computational Science. Dies entspräche jährlich bis zu 2,5 Millionen Tonnen zusätzlichem Abfall. Die Analyse basierte …
Das Forschungspapier „Mind Your Step (by Step): Chain-of-Thought can Reduce Performance on Tasks where Thinking Makes Humans Worse“ untersucht die Wirksamkeit von Chain-of-Thought (CoT) Prompting in großen Sprach- und multimodalen Modellen. Während CoT im Allgemeinen die Leistung des Modells bei verschiedenen Aufgaben verbessert, untersuchen die Autoren Szenarien, in denen CoT die Leistung sogar behindern kann, …
Forschende von Technion, Google Research und Apple haben herausgefunden, dass große Sprachmodelle (LLMs) ein tieferes Verständnis von Wahrheit besitzen als bisher angenommen. Die Studie untersuchte die internen Repräsentationen von LLMs anhand verschiedener Datensätze, berichtet VentureBeat. Dabei zeigte sich, dass Informationen zur Wahrheit in bestimmten Antwort-Token konzentriert sind. Durch das Training von Klassifikator-Modellen auf diesen Token …
Forscher von XJDR haben eine neue Technik namens Entropix entwickelt, die die logischen Denkfähigkeiten in Sprachmodellen verbessern soll. Sie trifft intelligentere Entscheidungen, wenn das Modell unsicher ist. Thariq Shihipar stellt sie in einem Blogpost vor. Die Methode verwendet adaptive Stichproben auf der Grundlage von zwei Metriken, Entropie und Varentropie, die die Unsicherheit in den Vorhersagen …
Forscher von DeepMind haben ein neues agentenbasiertes Framework namens Talker-Reasoner vorgestellt, das von dem „Zwei-Systeme“-Modell der menschlichen Kognition inspiriert ist. Das Framework unterteilt den KI-Agenten in zwei verschiedene Module, berichtet VentureBeat: den Talker, der Echtzeit-Interaktionen mit dem Benutzer und der Umgebung verarbeitet, und den Reasoner, der komplexe Überlegungen und Planungen durchführt. Die beiden Module interagieren …
OpenAI hat ein neues KI-Modell entwickelt, das Medieninhalte wie Bilder, Videos und Audio 50-mal schneller generieren kann als bisherige Systeme. Das neue Modell, ein sogenanntes „continuous-time consistency model“, benötigt für die Erstellung eines Bildes nur noch etwa eine Zehntelsekunde statt der üblichen fünf Sekunden, berichten die OpenAI-Forscher Cheng Lu und Yang Song in einem Fachartikel. …
Das Forschungsunternehmen Playground Research stellt mit „Playground v3“ ein neues KI-Modell zur Text-Bild-Generierung vor, das offenbar in mehreren Testverfahren Spitzenleistungen erzielt. Das System zeichnet sich demnach besonders durch seine präzise Umsetzung von Textanweisungen, die Fähigkeit zum logischen Denken und eine überragende Qualität bei der Textdarstellung aus. In Nutzerstudien übertraf das Modell sogar menschliche Designer bei …
Forscher haben eine neue Methode namens „Linear-complexity Multiplication“ (ℒ-Mul) entwickelt, um Berechnungen in künstlicher Intelligenz effizienter zu gestalten. Diese Methode ersetzt aufwendige Multiplikationen durch einfachere Additionen, wie Jason Hickey und sein Team vom Google AI Research Center in Accra schreiben. Die Wissenschaftler konnten zeigen, dass ℒ-Mul bei Sprachmodellen wie Llama und Mistral die gleiche Genauigkeit …
Microsoft und die Tsinghua Universität haben eine neue KI-Architektur namens „Differential Transformer“ entwickelt, die die Leistung von großen Sprachmodellen verbessert. Wie Furu Wei von Microsoft Research gegenüber VentureBeat erklärte, verstärkt die neue Methode die Aufmerksamkeit auf relevante Kontexte und filtert Störgeräusche heraus. Dies soll Probleme wie das „Lost-in-the-Middle“-Phänomen und Halluzinationen bei langen Texten reduzieren. In …