Eine neue Studie von Anthropic’s Alignment Science Team und Redwood Research hat gezeigt, dass große Sprachmodelle in der Lage sind, strategische Täuschung zu betreiben. Die Modelle können vorgeben, sich an neue Trainingsziele anzupassen, während sie insgeheim ihre ursprünglichen Präferenzen beibehalten. Die Forscher entwickelten ein Experiment mit dem Sprachmodell Claude 3 Opus. Sie teilten dem Modell … Weiterlesen …
Der von Anthropic entwickelte KI-Chatbot Claude gewinnt zunehmend an Beliebtheit bei Technologie-Experten in San Francisco, berichtet Kevin Roose in der New York Times. Nutzer schätzen besonders die emotionale Intelligenz des Chatbots und seine Fähigkeit, durchdachte Ratschläge zu verschiedenen Themen zu geben. Obwohl Claude weniger Nutzer als ChatGPT von OpenAI hat, heben Technik-Insider seine differenzierten und … Weiterlesen …
Anthropic hat sein neues KI-Modell Claude 3.5 Haiku für alle Nutzer freigegeben. Wie VentureBeat-Reporter Carl Franzen berichtet, war das Modell zuvor nur Entwicklern über API zugänglich. Haiku verfügt über ein Kontextfenster von 200.000 Token und übertrifft damit OpenAIs GPT-4. Das Modell erreicht laut der Benchmark-Organisation Artificial Analysis eine Reaktionszeit von 0,80 Sekunden für das erste … Weiterlesen …
Das Technologieunternehmen Anthropic hat sein neuestes KI-Modell Claude 3.5 Sonnet umfangreichen Sicherheitstests unterzogen. Wie Sam Schechner im Wall Street Journal berichtet, führte das „Frontier Red Team“ unter der Leitung von Logan Graham tausende von Tests durch. Die Prüfungen konzentrierten sich auf potenzielle Risiken in den Bereichen Cybersicherheit, biologische Waffen und autonomes Handeln. Die Testergebnisse zeigten, … Weiterlesen …
Ehemalige Google-Mitarbeiter spielen eine prägende Rolle in der Entwicklung der KI-Branche, wie eine neue Studie von WriterBuddy.ai zeigt. Die Untersuchung ergab, dass 14 der Top 50 KI-Startups von ehemaligen Google-Mitarbeitern geführt werden, wobei diese Unternehmen zusammen 14,7 Milliarden Dollar an Finanzierung erhielten und eine gemeinsame Bewertung von 71,6 Milliarden Dollar erreichten. Die Analyse, die Daten … Weiterlesen …
Ein ausführlicher Vergleich zweier KI-Sprachmodelle zeigt überraschende Ergebnisse im Preis-Leistungs-Verhältnis. Reddit-Nutzer Kakachia777 testete die Systeme o1 Pro und Claude Sonnet 3.5 über acht Stunden in verschiedenen Anwendungsbereichen. Der zehnfache Preisunterschied spiegelt sich dabei nicht in der Leistung wider. Die Testergebnisse zeigen, dass o1 Pro für 200 Dollar pro Monat zwar bei wissenschaftlichen Aufgaben und Bildanalyse … Weiterlesen …
Dario Amodei, CEO und Mitgründer von Anthropic, unterstreicht die Bedeutung einer führenden Position demokratischer Staaten in der KI-Entwicklung. Im Gespräch mit der Financial Times-Journalistin Madhumita Murgia erläuterte er die kürzlich erfolgte 4-Milliarden-Dollar-Investition von Amazon in sein Unternehmen. Die Zusammenarbeit mit dem US-Verteidigungsministerium begründete er mit der Notwendigkeit, demokratische Werte in der KI-Entwicklung zu schützen. Amodei … Weiterlesen …
Anthropic hat eine neue Funktion namens „Styles“ für seinen KI-Assistenten Claude eingeführt. Wie Michael Nuñez für VentureBeat berichtet, können Nutzer damit die Kommunikationsweise der KI individuell anpassen. Die Funktion bietet voreingestellte formelle, prägnante oder erklärende Antwortmodi. Benutzer können auch eigene Kommunikationsmuster durch das Hochladen von Beispielinhalten erstellen. Das Unternehmen versichert, dass die hochgeladenen Nutzerdaten nicht … Weiterlesen …
Anthropic hat das Model Context Protocol (MCP) vorgestellt, einen Open-Source-Standard, der KI-Assistenten mit verschiedenen Datenquellen verbinden soll. Das Protokoll ermöglicht KI-Modellen den Zugriff auf Informationen aus Geschäftsanwendungen, Softwaresystemen und Content-Repositories über eine standardisierte Schnittstelle. Das Unternehmen hat bereits vorgefertigte MCP-Server für gängige Unternehmenssysteme wie Google Drive, Slack und GitHub veröffentlicht. Laut Anthropic gehören Block und … Weiterlesen …
Das US-Justizministerium hat einen Vorschlag eingereicht, der Google zwingen würde, seine 2-Milliarden-Dollar-Investition in das KI-Unternehmen Anthropic aufzulösen. Dies berichteten Josh Sisco und Leah Nylen für Bloomberg. Der Vorschlag ist Teil eines kartellrechtlichen Verfahrens gegen Google. Das Ministerium will verhindern, dass Google in Unternehmen investiert, die Kontrolle über Verbraucher-Suchanfragen haben. Dies betrifft auch KI-basierte Suchprodukte. Google … Weiterlesen …