Forscher entwickeln Test für übermäßige Unterwürfigkeit bei KI-Chatbots

Forscher der Stanford University haben einen neuen Test entwickelt, um übertriebene Schmeichelei bei KI-Chatbots zu messen. Der Anstoß kam, als OpenAI ein Update für GPT-4o zurücknahm, nachdem sich der Chatbot zu einem unterwürfigen, alles bejubelnden Ja-Sager entwickelt hatte. Die Forschung entstand in Zusammenarbeit mit der Carnegie Mellon University und der University of Oxford, berichtet Emilia …

Weiterlesen …

Flux-Kontext kann Bilder erzeugen und per Textbefehl bearbeiten

Black Forest Labs hat FLUX.1 Kontext veröffentlicht, eine neue Familie von KI-Modellen, die Bilder sowohl generieren als auch bearbeiten können. Das deutsche Startup kündigte am Donnerstag die Technologie an, die sowohl Text-Prompts als auch Referenzbilder als Input akzeptiert. Das Unternehmen bietet zwei Hauptversionen des Modells an. FLUX.1 Kontext [pro] ermöglicht es Nutzern, Bilder zu generieren …

Weiterlesen …

Sky bringt KI-gestützte Automatisierung auf den Mac

Eine kommende Mac-Anwendung namens Sky verspricht, Desktop-Automatisierung durch eine Kombination aus KI und natürlicher Sprachverarbeitung zu revolutionieren. Die App wurde von den Entwicklern von Apples Shortcuts-App erstellt und ermöglicht es Nutzern, ihren Mac zu steuern und komplexe Aufgaben durch einfache Spracheingaben auszuführen. Federico Viticci von MacStories berichtet, dass Sky verstehen kann, welche Programme auf dem …

Weiterlesen …

Hume stellt EVI 3 vor mit individueller Stimmerstellung

Das New Yorker Startup Hume hat EVI 3 vorgestellt, ein KI-Modell für Gespräche, das Nutzern die Erstellung eigener synthetischer Stimmen über Spracheingabe ermöglicht. Die Technologie zielt auf Anwendungen vom Kundensupport bis zur virtuellen Begleitung ab, berichtet Carl Franzen für VentureBeat. Nutzer können Persönlichkeitsmerkmale, Stimmqualitäten und emotionale Töne festlegen. So entstehen Stimmen von warmherzigen Begleitern bis …

Weiterlesen …

Anthropic-Chef warnt vor massiven Jobverlusten durch KI, Kritiker zweifeln

Dario Amodei, CEO des KI-Unternehmens Anthropic, prognostiziert, dass künstliche Intelligenz die Hälfte aller Einsteiger-Jobs im Bürobereich in den nächsten ein bis fünf Jahren eliminieren könnte. Der 42-jährige Manager warnte, Arbeitslosigkeit könnte auf 10-20% steigen, während sich KI-Technologie rasant verbessert, berichtet Axios. Amodei behauptet, KI-Systeme werden bei intellektuellen Aufgaben in Technologie, Finanzen, Recht und Beratung besser …

Weiterlesen …

Analyse: Anthropics System-Prompts für Claude 4

Anthropic hat die System-Prompts für Claude Opus 4 und Claude Sonnet 4 veröffentlicht. Diese geben Einblicke in die Programmierung von KI-Chatbots. Entwickler Simon Willison analysierte die Prompts und beschrieb sie als inoffizielle Anleitung für die optimale Nutzung der Tools. Die Prompts enthalten umfangreiche Anweisungen zu Persönlichkeit, Sicherheitsmaßnahmen und Antwortformatierung. Sie zeigen Bemühungen, das Modell davon …

Weiterlesen …

Getty Images gibt Millionen für Klage gegen Stability AI aus

Getty Images gibt Millionen von Dollar für Anwaltskosten aus, um gegen das zu kämpfen, was CEO Craig Peters „unfairen Wettbewerb“ durch KI-Unternehmen nennt. Diese nutzen urheberrechtlich geschütztes Material ohne Erlaubnis. Peters sagte gegenüber CNBC, dass KI-Firmen geschützte Inhalte stehlen, um ihre Modelle für kommerzielle Zwecke zu trainieren. Das Foto-Lizenzunternehmen verklagt Stability AI vor US-amerikanischen und …

Weiterlesen …

Mystic Moose stellt MovieFlo.AI für nutzergenierte Filme vor

Das Bostoner Unternehmen Mystic Moose hat MovieFlo.AI vorgestellt, eine KI-Plattform zur Erstellung von Animationsfilmen und Videos aus Geschichtsideen. Das Tool richtet sich an Anime-Ersteller, Filmemacher und Content-Ersteller ohne traditionelle Produktionsressourcen. Dean Takahashi berichtet über die Markteinführung für VentureBeat. Die Plattform bietet einen integrierten Arbeitsablauf von der Drehbuchentwicklung bis zur finalen Videoproduktion. Nutzer können Charaktere generieren, …

Weiterlesen …

DeepSeek veröffentlicht großes Update

Das chinesische KI-Startup DeepSeek hat ein bedeutendes Update für sein Open-Source-Reasoning-Modell veröffentlicht. Die neue Version DeepSeek-R1-0528 kommt kostenpflichtigen Diensten von OpenAI und Google deutlich näher. Das Modell zeigt erhebliche Verbesserungen bei komplexen Denkaufgaben in Mathematik, Wissenschaft und Programmierung. Carl Franzen von VentureBeat berichtet, dass das aktualisierte Modell 87,5 Prozent Genauigkeit im AIME 2025 Test erreichte. …

Weiterlesen …

Meinung: Googles KI-Funktionen zerstören das Web

Google hat seine KI-gestützten Suchfunktionen stark ausgeweitet. Diese könnten das Web-Ökosystem bedrohen, das den Konzern seit Jahrzehnten trägt. Der Technologieriese bietet nun allen Nutzern AI Overviews und AI Mode an. Beide Funktionen beantworten Fragen direkt, ohne Klicks auf externe Webseiten zu erfordern. Tech-Kolumnist John Herrman vom New York Magazines Intelligencer berichtet über diese Entwicklung. AI …

Weiterlesen …