Hugging Face hat ein neues KI-Modell namens SmolVLM entwickelt, das Bild- und Textverarbeitung kombiniert. Wie Michael Nuñez berichtet, benötigt das Modell nur 5,02 GB GPU-Arbeitsspeicher. Vergleichbare Systeme brauchen bis zu 13,70 GB. SmolVLM nutzt eine fortschrittliche Kompressionstechnologie für die Bildverarbeitung. Das System verarbeitet Bilder mit 384×384 Pixeln durch nur 81 visuelle Token. Es ist in …
Das israelische Technologieunternehmen Lightricks hat ein neues KI-Modell namens LTX Video (LTXV) eingeführt. Michael Nuñez berichtet für VentureBeat über diese Open-Source-Software, die fünfsekündige Videos in nur vier Sekunden erstellen kann. Das Modell läuft effizient auf handelsüblicher Hardware wie Nvidia RTX 4090 Grafikkarten. LTXV verfügt über zwei Milliarden Parameter und wird auf GitHub und Hugging Face …
Adobe hat mit SlimLM ein neuartiges KI-System entwickelt, das Dokumente direkt auf Smartphones ohne Internetverbindung verarbeiten kann. Wie Michael Nuñez berichtet, wurde das System erfolgreich auf dem Samsung Galaxy S24 getestet. SlimLM kann Dokumente analysieren, zusammenfassen und komplexe Fragen beantworten. Das System arbeitet mit einem kompakten Modell von 125 Millionen Parametern, deutlich weniger als cloud-basierte …
Das Technologieunternehmen Fastino aus San Francisco präsentiert eine neue Generation von KI-Modellen für Unternehmensanwendungen. Die Modelle sind für spezifische Aufgaben optimiert und laufen auf gewöhnlichen CPUs statt auf teuren Grafikprozessoren, berichtet VentureBeat. Das Startup erhielt eine Vorfinanzierung von 7 Millionen Dollar, unter anderem von Microsofts Venture Fund M12. Die Technologie ermöglicht Reaktionszeiten im Millisekundenbereich und …
Die Entwicklung von multimodalen RAG-Systemen gewinnt an Bedeutung für Unternehmen, die verschiedene Datentypen verarbeiten müssen. Diese Technologie ermöglicht die gleichzeitige Suche in Texten, Bildern und Videos. Experten empfehlen einen schrittweisen Einstieg in die Implementierung, schreibt Emilia David bei VentureBeat. Das Unternehmen Cohere hat sein Embed 3-Modell kürzlich erweitert und betont die Wichtigkeit einer gründlichen Datenvorbereitung. …
Hugging Face hat mit SmolLM2 eine neue Familie kompakter Sprachmodelle vorgestellt, die speziell für den Einsatz auf Smartphones und Edge-Geräten mit begrenzter Rechenleistung und Speicherkapazität entwickelt wurden. Die unter der Apache 2.0-Lizenz veröffentlichten Modelle sind in drei Größen bis zu 1,7 Milliarden Parametern erhältlich. Trotz ihrer kompakten Größe erzielen sie beeindruckende Ergebnisse bei wichtigen Benchmarks …
SambaNova und Hugging Face haben eine neue Integration eingeführt, mit der Entwickler KI-Chatbots mit nur einem Klick bereitstellen können. Dadurch soll sich die Bereitstellungszeit von Stunden auf Minuten verkürzen. Die Integration unterstützt sowohl reine Text-Chatbots als auch multimodale Chatbots. Testergebnisse zeigen Verarbeitungsgeschwindigkeiten von bis zu 358 Token pro Sekunde auf uneingeschränkter Hardware. Um die Akzeptanz …
Das auf die Verbesserung der Mensch-Maschine-Kommunikation spezialisierte KI-Unternehmen Useful hat Moonshine als Open-Source-Modell veröffentlicht. Es soll die Latenzzeit von Sprachschnittstellen erheblich reduzieren und gleichzeitig die Genauigkeit von OpenAIs Whisper-Modell erreichen oder übertreffen. Laut Useful-Gründer Pete Warden liefert Moonshine Ergebnisse 1,7-mal schneller als Whisper. Dank des variablen Eingabefensters verarbeitet es kurze Audioclips fünfmal schneller. Der geringe …
Meta Platforms hat quantisierte Versionen seiner Llama 3.2 1B und 3B Modelle veröffentlicht, die laut Unternehmensangaben einen reduzierten Speicherbedarf, schnellere On-Device-Inferenz, Genauigkeit und Portabilität bieten sollen. Die Modelle wurden in enger Zusammenarbeit mit Qualcomm und MediaTek entwickelt und sind auf SoCs mit Arm-CPUs verfügbar. Meta gibt an, dass die durchschnittliche Modellgröße um 56% und der …
Qualcomm hat den Snapdragon 8 Elite vorgestellt, der laut Unternehmen die schnellste mobile CPU der Welt ist. Der Chipsatz verfügt über Qualcomms Oryon-CPU der zweiten Generation und soll eine neue Ära der On-Device-KI einläuten. Wie Dean Takahashi für VentureBeat berichtet, ermöglicht der Prozessor komplexe multimodale KI-Anwendungen direkt auf dem Smartphone, wobei der Datenschutz im Vordergrund …