Entwickler

SuperNova ist ein neues Modell für den Unternehmenseinsatz

Arcee AI hat SuperNova vorgestellt, ein anpassbares 70-Milliarden-Parameter-Sprachmodell für Unternehmen. Es lässt sich in der firmeneigenen Infrastruktur einsetzen und individuell anpassen, wie James Thomason bei VentureBeat berichtet. SuperNova basiert auf der Llama-3.1-70B-Instruct-Architektur von Meta und nutzt einen neuartigen Nachtrainingsprozess. Es soll eine Alternative zu Cloud-basierten Diensten von OpenAI und Anthropic bieten und Bedenken hinsichtlich Datenschutz, …

Weiterlesen …

DigitalEx gibt Unternehmen Einblicke in Kosten für generative KI

DigitalEx, ein Anbieter von Cloud-Kostenmanagement-Software, hat eine neue Lösung zur Kontrolle von Ausgaben für generative KI vorgestellt. Das Tool bietet Unternehmen einen zentralen Überblick über KI-bezogene Kosten verschiedener Plattformen wie AWS Bedrock, Azure OpenAI und OpenAI. Wie CEO Sundeep Goel gegenüber VentureBeat erklärte, ermöglicht die Lösung eine detaillierte Kostenzuordnung, Finanzmanagement und ROI-Analysen für KI-Projekte. Sie …

Weiterlesen …

Hugging Face LightEval hilft bei der Bewertung von LLMs

Hugging Face hat LightEval vorgestellt, eine neue Open-Source-Lösung zur Bewertung von großen Sprachmodellen (LLMs). Das berichtet Michael Nuñez auf VentureBeat. Die leichtgewichtige Suite ermöglicht es Unternehmen und Forschern, KI-Modelle präzise und anpassbar zu bewerten. LightEval lässt sich nahtlos in bestehende Hugging Face-Tools integrieren und unterstützt verschiedene Geräte wie CPUs, GPUs und TPUs. Die Einführung kommt …

Weiterlesen …

Google Prompt Poet hilft mit komplexen Prompts

Google hat mit Prompt Poet ein innovatives Tool für fortgeschrittenes Prompt Engineering eingeführt. Wie Michael Trestman bei VentureBeat berichtet, vereinfacht das von Character.ai entwickelte System die Erstellung komplexer Prompts für große Sprachmodelle durch ein benutzerfreundliches Template-System. Prompt Poet integriert dabei nahtlos externe Daten und ermöglicht so kontextbezogene KI-Antworten. Die Besonderheit von Prompt Poet liegt in …

Weiterlesen …

Replit Agent hilft beim Coden kompletter Anwendungen

Replit hat einen KI-Agenten eingeführt, der komplette Anwendungen von Grund auf erstellen kann. Wie Chris McKay in einem Beitrag für Maginative berichtet, geht es dabei um weit mehr als einen Coding-Assistenten. Der Agent kann selbstständig Software entwickeln, von der Projektplanung über das Schreiben von Code bis hin zum Debugging und Deployment. Laut Replit-CEO Amjad Masad …

Weiterlesen …

Neues KI-Modell der Entwickler-Suchmaschine Phind

Phind führt ein neues KI-Modell namens Phind-405B ein, das auf technische Aufgaben spezialisiert ist. Das Unternehmen gab dies in einem Blogbeitrag bekannt. Phind ist eine intelligente Suchmaschine für Entwickler, die generative KI nutzt, um Probleme zu lösen und Ideen in funktionierende Produkte umzusetzen. Das neue Modell basiert auf Meta Llama 3.1 405B und kann 128.000 …

Weiterlesen …

AnythingLLM: Chat mit Dokumenten

Eine neue KI-Anwendung namens AnythingLLM ermöglicht es Nutzern, mit beliebigen Dokumenten zu chatten. Die Software unterstützt verschiedene KI-Sprachmodelle und Vektordatenbanken. Laut der Entwickler können Nutzer damit eine private ChatGPT-ähnliche Anwendung erstellen, die lokal oder remote gehostet werden kann. AnythingLLM bietet Funktionen wie Multimodalität, Multi-User-Support und eingebettete Chat-Widgets. Die Anwendung ist in drei Hauptteile gegliedert: ein …

Weiterlesen …

Maitai überwacht und optimiert LLM-Outputs

Ein neues KI-Startup namens Maitai hat eine Plattform entwickelt, die den Einsatz von Large Language Models (LLMs) in der Praxis optimieren soll. Wie die Gründer Christian und Ian auf Hacker News berichten, analysiert Maitai als Proxy den Datenverkehr zwischen Anwendung und LLM. Das System erkennt automatisch Fehler, korrigiert sie in Echtzeit und verbessert die Modelle …

Weiterlesen …

Anthropic hilft mit besseren Prompts

Anthropic hat neue Funktionen für sein Sprachmodell Claude veröffentlicht, die Entwicklern helfen sollen, bessere Prompts zu erstellen und so die Leistung ihrer KI-Anwendungen zu optimieren. 

LiveBench ist ein neuer Benchmark für LLMs

LiveBench ist ein neuer Benchmark für große Sprachmodelle, die von einem Wissenschaftlerteam entwickelt wurde. Im Gegensatz zu bestehenden Benchmarks verwendet er ständig aktualisierte Fragen aus aktuellen Quellen und bewertet die Antworten automatisch anhand objektiver Kriterien. Das Team hat sich besonders bemüht, die Gefahr der „Contamination“ zu vermeiden, bei der die Trainingsdaten eines Sprachmodells die Testdaten eines …

Weiterlesen …