Opera ermöglicht es jetzt, KI-Sprachmodelle lokal auf den eigenen Rechner herunterzuladen und dort auszuführen – also auch ohne Internetverbindung, ohne zusätzliche Kosten und privat. Über 150 Modelle von mehr als 50 Familien stehen zur Auswahl, darunter Llama von Meta, Gemma von Google und Vicuna. Das Feature ist zunächst für Nutzer von Opera One im Developer-Stream … Weiterlesen …
Während kommerzielle KI-Angebote viele Leitplanken und Schranken einbauen, um sie gegen Missbrauch zu sichern, wirbt das offene Modell Liberated-Qwen1.5-72B damit, dass es keine solche Beschränkungen hat. Stattdessen ist es speziell darauf trainiert, strikt den Vorgaben zu folgen. Dadurch lässt es sich weniger leicht austricksen. Zugleich muss man aber selbst festlegen, welche Antworten und Themen erlaubt sind. Quelle: VentureBeat
RecurseChat bringt KI-Chats auf den Mac. Bekannte Alternativen sind LM Studio und Jan, die auch für Windows und Linux erhältlich sind. Sie bieten eine Nutzeroberfläche für selbstinstallierte Sprachmodelle.
Privater Chatbot in Apple Notes: NotesOllama ist etwas für technisch versierte Mac-Nutzer:innen, zeigt aber sehr schön, was künftig alles möglich sein könnte. Das Tool integriert einen lokal installierten Chatbot direkt in Apple Notes.
Stability AI ist ein Anbieter zahlreicher KI-Werkzeuge, die mehr als andere auf eine offene Verfügbarkeit setzen. Unter dem Namen Stable Diffusion gibt es inzwischen eine umfangreiche Familie von Bildgeneratoren, die sich auch auf dem eigenen Rechner nutzen lassen. Das nun vorgestellte Stable Diffusion 3 verspricht für die Zukunft eine bessere Qualität. Das gilt vor allem … Weiterlesen …
Ich hatte bereits das Konzept der „Local LLMs“ vorgestellt: KI-Assistenten vom Schlage eines ChatGPT, die aber nicht in der Cloud arbeiten, sondern auf deinem eigenen PC oder einem selbstbetriebenen Server. Eine Herausforderung ist dabei die Geschwindigkeit der Antworten. Nvidia hat nun „Chat with RTX“ vorgestellt, das die Rechenpower der hauseigenen Grafikkarten nutzt. Eine kostenlose Demo-App … Weiterlesen …
Während Googles Gemini-Angebote (siehe oben) proprietär sind, hat das Unternehmen nun zwei Open-Source-Modelle unter dem Namen Gemma vorgestellt, die sich frei nutzen lassen. Sie sind nach offiziellen Angaben auf Grundlage derselben Techniken entstanden, die für Gemini zum Einsatz kamen. Mit 2 Milliarden und 7 Milliarden Parametern sind die beiden Gemma-Modelle klein und haben begrenzte Fähigkeiten. … Weiterlesen …
Die Macher von Stable Diffusion geben eine Vorschau auf Stable Cascade, das sich dank seiner speziellen Architektur auch auf PCs ohne spezialisierte und teure Hardware nutzen lässt. Quelle: Stability.ai
ChatGPT kann faszinierend und hilfreich sein. Ein erhebliches Problem ist allerdings der Datenschutz. Das gilt vor allem für den Einsatz in Unternehmen. Bei intensiver Nutzung können ebenso die Kosten relevant werden. Und je stärker die KI-Tools zum Einsatz kommen, desto eher wünscht man sich einen Helfer, der auf die eigenen Aufgaben spezialisiert ist und das … Weiterlesen …