Ich hatte bereits das Konzept der „Local LLMs“ vorgestellt: KI-Assistenten vom Schlage eines ChatGPT, die aber nicht in der Cloud arbeiten, sondern auf deinem eigenen PC oder einem selbstbetriebenen Server. Eine Herausforderung ist dabei die Geschwindigkeit der Antworten. Nvidia hat nun „Chat with RTX“ vorgestellt, das die Rechenpower der hauseigenen Grafikkarten nutzt. Eine kostenlose Demo-App …
Während Googles Gemini-Angebote (siehe oben) proprietär sind, hat das Unternehmen nun zwei Open-Source-Modelle unter dem Namen Gemma vorgestellt, die sich frei nutzen lassen. Sie sind nach offiziellen Angaben auf Grundlage derselben Techniken entstanden, die für Gemini zum Einsatz kamen. Mit 2 Milliarden und 7 Milliarden Parametern sind die beiden Gemma-Modelle klein und haben begrenzte Fähigkeiten. …
Die Macher von Stable Diffusion geben eine Vorschau auf Stable Cascade, das sich dank seiner speziellen Architektur auch auf PCs ohne spezialisierte und teure Hardware nutzen lässt. Quelle: Stability.ai
ChatGPT kann faszinierend und hilfreich sein. Ein erhebliches Problem ist allerdings der Datenschutz. Das gilt vor allem für den Einsatz in Unternehmen. Bei intensiver Nutzung können ebenso die Kosten relevant werden. Und je stärker die KI-Tools zum Einsatz kommen, desto eher wünscht man sich einen Helfer, der auf die eigenen Aufgaben spezialisiert ist und das …