Lokale KI

ComfyUI V1: KI-Bilder direkt auf dem eigenen Rechner generieren

Die KI-Bildgenerierungssoftware ComfyUI ist in der Version 1.0 erschienen und bietet nun eine Desktop-Version für Windows, macOS und Linux. Zum Hintergrund: ComfyUI ermöglicht es dir, komplexe Bildgenerierungspipelines direkt auf dem eigenen Rechner umzusetzen. Im Gegensatz zu Cloud-basierten Lösungen bietet die Software volle Kontrolle über den Prozess und die eigenen Daten. Die brandneue Desktop-Version befindet sich …

Weiterlesen …

Nvidia veröffentlicht leistungsstarkes und offenes KI-Modell

Nvidia hat ein neues KI-Modell, Llama-3.1-Nemotron-70B-Instruct, vorgestellt, das bestehende Modelle von OpenAI und anderen Anbietern übertrifft und einen fortgesetzten Wandel in der KI-Strategie des Unternehmens zeigt. Das Modell, das auf Hugging Face verfügbar ist, erzielte beeindruckende Benchmark-Ergebnisse und positioniert Nvidia als wettbewerbsfähigen Akteur im Bereich Sprachverständnis und -generierung. Diese Entwicklung zeigt Nvidias Wandel von einem …

Weiterlesen …

Mistral zeigt kleine Modelle für Laptops und Smartphones

Die französische KI-Firma Mistral hat neue generative KI-Modelle für Laptops und Smartphones vorgestellt. Die als „Les Ministraux“ bezeichneten Modelle sind für verschiedene Anwendungen wie Texterstellung oder die Zusammenarbeit mit leistungsfähigeren Modellen optimiert. Kyle Wiggers berichtet für TechCrunch, dass zwei Varianten verfügbar sind: Ministral 3B und Ministral 8B, beide mit einem Kontextfenster von 128.000 Token. Die …

Weiterlesen …

Warum Forscher auf lokale KI setzen

Forscher nutzen offenbar zunehmend kleine KI-Modelle auf ihren eigenen Computern statt die Angebote der großen KI-Services wie ChatGPT. Wie Nature berichtet, ermöglichen frei verfügbare Tools wie Llama oder Phi-3 es Wissenschaftlern, KI-Modelle lokal laufen zu lassen. Dies bietet Vorteile wie Kosteneinsparungen, Datenschutz und Reproduzierbarkeit. Die lokalen KI-Modelle werden dabei immer leistungsfähiger und können bereits mit …

Weiterlesen …

Updates von Google und Meta

Google will die Genauigkeit seiner KI-Modelle verbessern. Um „Halluzinationen“ zu vermeiden, arbeitet das Unternehmen mit Partnern wie Moody’s, Thomson Reuters und ZoomInfo zusammen. Sie sollen KI-Systeme mit aktuellen Informationen füttern. Ein neuer „Confidence Score“ soll außerdem anzeigen, wie sicher die KI ist, eine korrekte Antwort gegeben zu haben. Google veröffentlicht mit Gemma 2 darüber hinaus eine neue Reihe leichter KI-Modelle. …

Weiterlesen …

Forscher arbeiten an besserer lokaler KI

Forscher erzielen große Fortschritte bei der Entwicklung von 1-Bit-LLMs, die trotz deutlich geringerem Speicherbedarf und Energieverbrauch eine ähnliche Leistung wie ihre größeren Pendants erreichen können. Diese Entwicklung könnte die Tür für komplexere KI-Anwendungen auf alltäglichen Geräten wie Smartphones öffnen, da sie weniger Rechenleistung und Energie benötigen.

Neues „AI Kit“ für den Raspberry Pi

Mit dem neuen Raspberry Pi AI Kit für 70 US-Dollar können Nutzer  KI-Anwendungen für visuelle Aufgaben mit dem Kleinstcomputer umsetzen. Das Kit ermöglicht etwa Objekterkennung, Segmentierung und Posenschätzung in Echtzeit und mit geringem Stromverbrauch, wodurch sich der Raspberry Pi 5 für lokale KI-Anwendungen eignen könnte.

Intels „Lunar Lake“ ist ein Laptop-Chip für KI

Intel hat mit dem „Lunar Lake“-Prozessor einen völlig überarbeiteten Laptop-Chip für KI-Anwendungen vorgestellt, der ohne separate Speichermodule auskommt und stattdessen bis zu 32 GB LPDDR5X-Speicher direkt im Chippaket integriert. Durch zahlreiche Optimierungen verspricht Intel im Vergleich zum Vorgänger Meteor Lake bis zu 14 Prozent mehr CPU-Leistung bei gleichem Takt, 50 Prozent mehr Grafikleistung und bis zu 60 …

Weiterlesen …

Jolla Mind2 ist ein lokaler KI-Assistent

Jolla, bekannt für sein Sailfish-Betriebssystem, präsentiert mit dem Jolla Mind2 einen neuen Ansatz für KI-Assistenten. Dieser persönliche Server, der im Herbst für 699 Euro (plus monatliche Abogebühren) erhältlich sein wird, soll KI-gestützte Aufgaben erledigen, ohne Daten in die Cloud zu senden. 

Perplexica ist eine quelloffene KI-Suchmaschine

Perplexica ist eine Open-Source-Suchmaschine mit KI-Unterstützung ähnlich Perplexity. Sie liefert Antworten mit Quellenangaben. Einmal installiert, kann sie lokale Sprachmodelle wie etwa Llama 3 oder Mixtral nutzen.

×