Lokale KI

NitroFusion erstellt Bilder blitzschnell auf Standardhardware

Die Universität Surrey hat ein bahnbrechendes KI-Modell namens NitroFusion vorgestellt. Das System erzeugt Bilder in Echtzeit, während Benutzer tippen. Die Entwicklung stammt aus dem SketchX-Labor des universitären Instituts für Menschen-zentrierte Künstliche Intelligenz (PAI). Das Besondere: NitroFusion läuft auf handelsüblichen Grafikkarten. Im Gegensatz zu bestehenden Bildgenerierungssystemen benötigt das Modell keine aufwendige Computerinfrastruktur. Es nutzt ein dynamisches …

Weiterlesen …

Metas KI-Modell mit GPT-4-Leistung läuft auf High-End Notebooks

Meta hat mit Llama 3.3 70B ein neues KI-Sprachmodell vorgestellt, das auf leistungsstarken Notebooks läuft und dabei eine Leistung auf GPT-4-Niveau erreicht. Das berichtet Simon Willison. Er testete das Modell erfolgreich auf einem MacBook Pro M2 mit 64 GB RAM und benötigt etwa 42 GB Speicherplatz für die Installation. In unabhängigen Tests durch LiveBench erreichte …

Weiterlesen …

Hugging Face stellt ressourcensparendes KI-Modell vor

Hugging Face hat ein neues KI-Modell namens SmolVLM entwickelt, das Bild- und Textverarbeitung kombiniert. Wie Michael Nuñez berichtet, benötigt das Modell nur 5,02 GB GPU-Arbeitsspeicher. Vergleichbare Systeme brauchen bis zu 13,70 GB. SmolVLM nutzt eine fortschrittliche Kompressionstechnologie für die Bildverarbeitung. Das System verarbeitet Bilder mit 384×384 Pixeln durch nur 81 visuelle Token. Es ist in …

Weiterlesen …

Lightricks stellt kostenloses KI-Videomodell vor

Das israelische Technologieunternehmen Lightricks hat ein neues KI-Modell namens LTX Video (LTXV) eingeführt. Michael Nuñez berichtet für VentureBeat über diese Open-Source-Software, die fünfsekündige Videos in nur vier Sekunden erstellen kann. Das Modell läuft effizient auf handelsüblicher Hardware wie Nvidia RTX 4090 Grafikkarten. LTXV verfügt über zwei Milliarden Parameter und wird auf GitHub und Hugging Face …

Weiterlesen …

Adobe entwickelt KI-System für offline Dokumentenverarbeitung auf Smartphones

Adobe hat mit SlimLM ein neuartiges KI-System entwickelt, das Dokumente direkt auf Smartphones ohne Internetverbindung verarbeiten kann. Wie Michael Nuñez berichtet, wurde das System erfolgreich auf dem Samsung Galaxy S24 getestet. SlimLM kann Dokumente analysieren, zusammenfassen und komplexe Fragen beantworten. Das System arbeitet mit einem kompakten Modell von 125 Millionen Parametern, deutlich weniger als cloud-basierte …

Weiterlesen …

KI-Startup entwickelt CPU-basierte KI-Modelle für Unternehmen

Das Technologieunternehmen Fastino aus San Francisco präsentiert eine neue Generation von KI-Modellen für Unternehmensanwendungen. Die Modelle sind für spezifische Aufgaben optimiert und laufen auf gewöhnlichen CPUs statt auf teuren Grafikprozessoren, berichtet VentureBeat. Das Startup erhielt eine Vorfinanzierung von 7 Millionen Dollar, unter anderem von Microsofts Venture Fund M12. Die Technologie ermöglicht Reaktionszeiten im Millisekundenbereich und …

Weiterlesen …

Unternehmen setzen verstärkt auf multimodale KI-Suchtechnologie

Die Entwicklung von multimodalen RAG-Systemen gewinnt an Bedeutung für Unternehmen, die verschiedene Datentypen verarbeiten müssen. Diese Technologie ermöglicht die gleichzeitige Suche in Texten, Bildern und Videos. Experten empfehlen einen schrittweisen Einstieg in die Implementierung, schreibt Emilia David bei VentureBeat. Das Unternehmen Cohere hat sein Embed 3-Modell kürzlich erweitert und betont die Wichtigkeit einer gründlichen Datenvorbereitung. …

Weiterlesen …

Hugging Face veröffentlicht effiziente KI-Sprachmodelle für Mobilgeräte

Hugging Face hat mit SmolLM2 eine neue Familie kompakter Sprachmodelle vorgestellt, die speziell für den Einsatz auf Smartphones und Edge-Geräten mit begrenzter Rechenleistung und Speicherkapazität entwickelt wurden. Die unter der Apache 2.0-Lizenz veröffentlichten Modelle sind in drei Größen bis zu 1,7 Milliarden Parametern erhältlich. Trotz ihrer kompakten Größe erzielen sie beeindruckende Ergebnisse bei wichtigen Benchmarks …

Weiterlesen …

SambaNova und Hugging Face erleichtern Bereitstellung von KI-Chatbots

SambaNova und Hugging Face haben eine neue Integration eingeführt, mit der Entwickler KI-Chatbots mit nur einem Klick bereitstellen können. Dadurch soll sich die Bereitstellungszeit von Stunden auf Minuten verkürzen. Die Integration unterstützt sowohl reine Text-Chatbots als auch multimodale Chatbots. Testergebnisse zeigen Verarbeitungsgeschwindigkeiten von bis zu 358 Token pro Sekunde auf uneingeschränkter Hardware. Um die Akzeptanz …

Weiterlesen …

Nützliches KI-Modell beschleunigt Spracherkennung bei hoher Genauigkeit

Das auf die Verbesserung der Mensch-Maschine-Kommunikation spezialisierte KI-Unternehmen Useful hat Moonshine als Open-Source-Modell veröffentlicht. Es soll die Latenzzeit von Sprachschnittstellen erheblich reduzieren und gleichzeitig die Genauigkeit von OpenAIs Whisper-Modell erreichen oder übertreffen. Laut Useful-Gründer Pete Warden liefert Moonshine Ergebnisse 1,7-mal schneller als Whisper. Dank des variablen Eingabefensters verarbeitet es kurze Audioclips fünfmal schneller. Der geringe …

Weiterlesen …