Forscher des Unternehmens Lakera haben Sicherheitslücken im KI-System GPT-4V aufgedeckt. Das Team konnte nachweisen, dass das Modell durch geschickt platzierte Textanweisungen in Bildern manipuliert werden kann. Die Experimente zeigten, dass bereits ein Blatt Papier mit speziellen Anweisungen ausreicht, um die KI dazu zu bringen, Menschen zu übersehen oder falsche Beschreibungen zu generieren. Die Schwachstellen ermöglichen …
Anthropic hat eine neue Sammlung von Entwicklerwerkzeugen eingeführt, die das Erstellen von KI-Prompts automatisieren, berichtet VentureBeat. Das Hauptwerkzeug „Prompt Improver“ optimiert Anweisungen für das KI-Modell Claude automatisch. Nach Unternehmensangaben konnte die Genauigkeit der KI-Ausgaben in Tests um 30 Prozent gesteigert werden. Die Software enthält auch ein System zur Verwaltung von Beispielen, das Entwicklern hilft, einheitliche …
OpenAI führt neue Funktionen für seine ChatGPT Desktop-Anwendung ein, berichtet VentureBeat. Mac-Nutzer mit Plus- und Teams-Abonnement können jetzt direkt aus ChatGPT heraus Programme wie VS Code und Xcode starten. Die Windows-Version ist nun für alle Nutzer verfügbar und bietet neue Funktionen wie verbesserte Sprachsteuerung und Screenshot-Möglichkeiten. Produktleiter Alexander Embiricos erklärt, dass diese Entwicklung auf das …
Google hat eine neue eigenständige Gemini-App für iPhone-Nutzer weltweit veröffentlicht. Die kostenlose Anwendung ermöglicht Gespräche mit dem KI-Assistenten per Text, Sprache oder Kamera, berichtet TechCrunch. Ein Hauptmerkmal ist Gemini Live, ein interaktiver Gesprächsmodus, der in der Dynamic Island und auf dem Sperrbildschirm des iPhones erscheint. Die App kann mit anderen Google-Diensten wie YouTube Music und …
Das deutsche KI-Unternehmen DeepL hat einen neuen Dienst namens DeepL Voice eingeführt. Das System übersetzt gesprochene Sprache und Videoinhalte in Echtzeit in Textform. Der Dienst verarbeitet Spracheingaben in 13 Sprachen und kann in alle 33 von DeepL unterstützten Sprachen übersetzen, berichtet TechCrunch. Die Übersetzungen werden entweder auf Smartphones nebeneinander angezeigt oder als Untertitel in Videokonferenzen …
Das Startup-Unternehmen Writer hat in einer Series-C-Finanzierungsrunde 200 Millionen Dollar bei einer Bewertung von 1,9 Milliarden Dollar eingesammelt. Das berichtet TechCrunch. Die 2020 gegründete Firma entwickelt KI-Lösungen für Unternehmenskunden. Zu den Hauptinvestoren gehören Premji Invest, Radical Ventures und ICONIQ Growth. Writer hat mit seiner Palmyra-Modellfamilie bereits hunderte Großkunden wie Salesforce und Uber gewonnen. Das Unternehmen …
Das Technologieunternehmen Fastino aus San Francisco präsentiert eine neue Generation von KI-Modellen für Unternehmensanwendungen. Die Modelle sind für spezifische Aufgaben optimiert und laufen auf gewöhnlichen CPUs statt auf teuren Grafikprozessoren, berichtet VentureBeat. Das Startup erhielt eine Vorfinanzierung von 7 Millionen Dollar, unter anderem von Microsofts Venture Fund M12. Die Technologie ermöglicht Reaktionszeiten im Millisekundenbereich und …
DataRobot präsentiert seine neue Enterprise AI Suite, eine integrierte Plattform, die Unternehmen dabei unterstützt, KI-Investitionen in messbare Geschäftsergebnisse umzuwandeln. Die Plattform vereint prädiktive und generative KI-Funktionen mit anpassbaren Anwendungsvorlagen für verschiedene Branchen, berichtet VentureBeat. Sie unterstützt moderne Sprachmodelle wie Llama 3 und Gemini durch RAG-Technologie. Besonders innovativ ist der Einsatz spezialisierter KI-Agenten, die gemeinsam komplexe …
Führende Technologieunternehmen stehen vor der Herausforderung, neue Bewertungsmethoden für ihre KI-Modelle zu entwickeln. Die bisherigen Testverfahren reichen nicht mehr aus, da moderne KI-Systeme bei Standard-Tests bereits über 90% Genauigkeit erreichen, berichtet die Financial Times. Unternehmen wie OpenAI, Microsoft, Meta und Anthropic arbeiten an internen Bewertungssystemen, besonders für autonome KI-Agenten. Neue öffentliche Benchmarks wie SWE-bench Verified …
Die Europäische Union hat einen ersten Entwurf für einen Verhaltenskodex vorgestellt, der die Compliance-Anforderungen für Anbieter von KI-Systemen regelt. Das Dokument legt fest, wie Unternehmen wie OpenAI, Google und Meta die Bestimmungen des EU KI-Gesetzes erfüllen müssen, berichtet TechCrunch. Die Transparenzanforderungen treten ab August 2025 in Kraft, während strengere Risikobeurteilungen für besonders leistungsstarke KI-Systeme ab …