Zyphra stellt mit Zamba ein quelloffenes 7-Milliarden-Parameter-Modell vor, das künstliche Intelligenz auf mehr Geräte bringen soll.Durch den dezentralen Ansatz und die geringere Modellgröße soll Zamba eine kostengünstigere und personalisierte Alternative zu den großen, zentralisierten KI-Modellen bieten.
Intel bestätigt, dass Microsofts KI-Assistent Copilot bald lokal auf PCs mit passenden Chips laufen wird. Intels Lunar Lake-Prozessoren, die Ende des Jahres auf den Markt kommen, sollen eine dreimal höhere KI-Leistung bieten als die aktuellen Meteor Lake-Chips und damit die Anforderungen für die nächste Generation von KI-PCs erfüllen.
Databricks präsentiert mit DBRX ein neues Open-Source-KI-Modell, das Unternehmen eine kostengünstige und effiziente Alternative zu GPT-3.5 bieten möchte. Da Unternehmen es selbst einrichten und verwalten, ist damit gleichzeitig die Sicherheit und Vertraulichkeit der Daten besser gewahrt als bei einem externen Angebot wie ChatGPT. Quelle: VentureBeat
Opera ermöglicht es jetzt, KI-Sprachmodelle lokal auf den eigenen Rechner herunterzuladen und dort auszuführen – also auch ohne Internetverbindung, ohne zusätzliche Kosten und privat. Über 150 Modelle von mehr als 50 Familien stehen zur Auswahl, darunter Llama von Meta, Gemma von Google und Vicuna. Das Feature ist zunächst für Nutzer von Opera One im Developer-Stream …
Während kommerzielle KI-Angebote viele Leitplanken und Schranken einbauen, um sie gegen Missbrauch zu sichern, wirbt das offene Modell Liberated-Qwen1.5-72B damit, dass es keine solche Beschränkungen hat. Stattdessen ist es speziell darauf trainiert, strikt den Vorgaben zu folgen. Dadurch lässt es sich weniger leicht austricksen. Zugleich muss man aber selbst festlegen, welche Antworten und Themen erlaubt sind. Quelle: VentureBeat
RecurseChat bringt KI-Chats auf den Mac. Bekannte Alternativen sind LM Studio und Jan, die auch für Windows und Linux erhältlich sind. Sie bieten eine Nutzeroberfläche für selbstinstallierte Sprachmodelle.
Privater Chatbot in Apple Notes: NotesOllama ist etwas für technisch versierte Mac-Nutzer:innen, zeigt aber sehr schön, was künftig alles möglich sein könnte. Das Tool integriert einen lokal installierten Chatbot direkt in Apple Notes.
Stability AI ist ein Anbieter zahlreicher KI-Werkzeuge, die mehr als andere auf eine offene Verfügbarkeit setzen. Unter dem Namen Stable Diffusion gibt es inzwischen eine umfangreiche Familie von Bildgeneratoren, die sich auch auf dem eigenen Rechner nutzen lassen. Das nun vorgestellte Stable Diffusion 3 verspricht für die Zukunft eine bessere Qualität. Das gilt vor allem …
Ich hatte bereits das Konzept der „Local LLMs“ vorgestellt: KI-Assistenten vom Schlage eines ChatGPT, die aber nicht in der Cloud arbeiten, sondern auf deinem eigenen PC oder einem selbstbetriebenen Server. Eine Herausforderung ist dabei die Geschwindigkeit der Antworten. Nvidia hat nun „Chat with RTX“ vorgestellt, das die Rechenpower der hauseigenen Grafikkarten nutzt. Eine kostenlose Demo-App …
Während Googles Gemini-Angebote (siehe oben) proprietär sind, hat das Unternehmen nun zwei Open-Source-Modelle unter dem Namen Gemma vorgestellt, die sich frei nutzen lassen. Sie sind nach offiziellen Angaben auf Grundlage derselben Techniken entstanden, die für Gemini zum Einsatz kamen. Mit 2 Milliarden und 7 Milliarden Parametern sind die beiden Gemma-Modelle klein und haben begrenzte Fähigkeiten. …