Forscher der Stanford University haben einen neuen Test entwickelt, um übertriebene Schmeichelei bei KI-Chatbots zu messen. Der Anstoß kam, als OpenAI ein Update für GPT-4o zurücknahm, nachdem sich der Chatbot zu einem unterwürfigen, alles bejubelnden Ja-Sager entwickelt hatte. Die Forschung entstand in Zusammenarbeit mit der Carnegie Mellon University und der University of Oxford, berichtet Emilia …
Dario Amodei, CEO des KI-Unternehmens Anthropic, prognostiziert, dass künstliche Intelligenz die Hälfte aller Einsteiger-Jobs im Bürobereich in den nächsten ein bis fünf Jahren eliminieren könnte. Der 42-jährige Manager warnte, Arbeitslosigkeit könnte auf 10-20% steigen, während sich KI-Technologie rasant verbessert, berichtet Axios. Amodei behauptet, KI-Systeme werden bei intellektuellen Aufgaben in Technologie, Finanzen, Recht und Beratung besser …
Anthropic hat die System-Prompts für Claude Opus 4 und Claude Sonnet 4 veröffentlicht. Diese geben Einblicke in die Programmierung von KI-Chatbots. Entwickler Simon Willison analysierte die Prompts und beschrieb sie als inoffizielle Anleitung für die optimale Nutzung der Tools. Die Prompts enthalten umfangreiche Anweisungen zu Persönlichkeit, Sicherheitsmaßnahmen und Antwortformatierung. Sie zeigen Bemühungen, das Modell davon …
Getty Images gibt Millionen von Dollar für Anwaltskosten aus, um gegen das zu kämpfen, was CEO Craig Peters „unfairen Wettbewerb“ durch KI-Unternehmen nennt. Diese nutzen urheberrechtlich geschütztes Material ohne Erlaubnis. Peters sagte gegenüber CNBC, dass KI-Firmen geschützte Inhalte stehlen, um ihre Modelle für kommerzielle Zwecke zu trainieren. Das Foto-Lizenzunternehmen verklagt Stability AI vor US-amerikanischen und …
Google hat seine KI-gestützten Suchfunktionen stark ausgeweitet. Diese könnten das Web-Ökosystem bedrohen, das den Konzern seit Jahrzehnten trägt. Der Technologieriese bietet nun allen Nutzern AI Overviews und AI Mode an. Beide Funktionen beantworten Fragen direkt, ohne Klicks auf externe Webseiten zu erfordern. Tech-Kolumnist John Herrman vom New York Magazines Intelligencer berichtet über diese Entwicklung. AI …
Knowledge Worker durchleben eine beispiellose Identitätskrise, während künstliche Intelligenz die Arbeitswelt umgestaltet. Das schreibt Gary Grossman von Edelman in einer neuen Analyse. Der Wandel geht über einfachen Jobverlust hinaus und stellt grundlegende Fragen zu menschlichem Zweck und Selbstwert. Grossman beschreibt eine „große Verdrängung“. Er nennt das Beispiel eines 42-jährigen Software-Ingenieurs, der seinen sechsstelligen Programmierjob an …
Mehrere Autoren von Liebesromanen haben versehentlich KI-Prompts in ihren veröffentlichten Büchern hinterlassen. Dies enthüllte ihre Nutzung künstlicher Intelligenz beim Schreiben. Matthew Gault berichtete für 404 Media über verdächtige Textpassagen in mindestens drei aktuellen Romance-Publikationen. In „Darkhollow Academy: Year 2“ von Lena McDonald entdeckten Leser den Text: „I’ve rewritten the passage to align more with J. …
Kreativprofi David Neal berichtet über massive Auswirkungen generativer KI auf sein Einkommen als Illustrator. Er arbeitet in Softwareentwicklung, Content-Erstellung, Illustration und Musik. Er meldete einen Rückgang der Illustration-Aufträge um mehr als 50 Prozent im vergangenen Jahr. Seit 2018 betreibt der Profi ein Nebengeschäft mit Cartoon-Avataren und Illustrationen. Die Arbeit brachte nie ein Vollzeiteinkommen, generierte aber …
KI-Sicherheitsforscher haben das erste Bewertungssystem entwickelt, das manipulative Verhaltensweisen in großen Sprachmodellen aufdeckt. Der Anlass war ein problematischer Vorfall mit ChatGPT-4o, das Nutzer übermäßig schmeichelte. Leon Yen berichtete über die Entwicklung für VentureBeat. Das DarkBench-Framework stammt von Apart Research-Gründer Esben Kran und Mitarbeitern. Es identifiziert sechs Kategorien problematischer KI-Verhaltensweisen. Dazu gehören Markenbevorzugung, Nutzerbindungstaktiken, Schmeichelei, Vermenschlichung, …
ChatGPT hat seit April ein erweiterte Gedächtnisfunktion, die vergangene Gespräche nutzt, um personalisierte Antworten zu liefern, was allerdings unerwarteten Folgen für die Nutzer haben kann. Simon Willison beschreibt in einem Blogbeitrag, wie dieses Feature automatisch eine umfassende Sammlung von Nutzerinteraktionen anlegt, die ohne klare Kontrollmöglichkeiten alle zukünftigen Gespräche beeinflusst. Die Funktion ist nur für Plus- …