Anthropic

Claude Computer Use verwundbar für Fernzugriff durch Prompt Injection

Das von Anthropic veröffentlichte Feature Claude Computer Use erlaubt es der KI Claude, einen Computer fernzusteuern. Dabei nutzt sie Screenshots zur Entscheidungsfindung und kann Bash-Kommandos ausführen. Ein Post auf „Embrace the Red“ demonstriert jedoch, dass dies auch erhebliche Sicherheitsrisiken birgt. Durch eine speziell gestaltete Webseite konnte der Autor Claude dazu bringen, Malware herunterzuladen und auszuführen. … Weiterlesen …

Claudes neue „Computer Use“-Fähigkeiten ausprobiert

Anthropics neueste KI-Funktion Computer Use kann bei der Interaktion mit Computern bemerkenswerte Fähigkeiten zeigen, wie ein praktischer Test von Thariq Shihipar ergab. Obwohl das System noch langsam, unzuverlässig und anfällig dafür ist, die volle Kontrolle über den Computer des Nutzers zu übernehmen, stellt es nach seinen Worten einen spannenden Schritt nach vorn bei der KI-gesteuerten … Weiterlesen …

„Computer Use“: Anthropics Claude kann jetzt deinen PC steuern

Anthropic hat eine aktualisierte Version seines KI-Modells Claude 3.5 Sonnet vorgestellt. Laut Unternehmensangaben kann das Modell nun Desktop-Anwendungen steuern und PC-Aufgaben ausführen. Dafür nutzt es eine neue „Computer Use“-API, die sich in der öffentlichen Beta-Phase befindet. Anthropic betont, dass die Technologie noch fehlerbehaftet sei und empfiehlt Entwicklern, zunächst nur risikoarme Aufgaben damit zu testen. Neben … Weiterlesen …

Anthropic testet seine KI-Modelle auf Sabotage-Fähigkeiten

Anthropic hat neue Sicherheitsbewertungen für KI-Modelle entwickelt, die deren Fähigkeit zur Sabotage testen. In einem Blog-Post beschreibt das Unternehmen vier Testarten: „Human decision sabotage“, „Code sabotage“, „Sandbagging“ und „Undermining oversight“. Bei Human decision sabotage versuchen die Modelle, Menschen zu falschen Entscheidungen zu verleiten, ohne Verdacht zu erregen. Die Code sabotage testet, ob Modelle unbemerkt Fehler … Weiterlesen …

Anthropic aktualisiert Sicherheitsrichtlinien für KI

Anthropic hat seine Sicherheitsrichtlinien für KI aktualisiert, um Missbrauch zu verhindern, berichtet VentureBeat-Autor Michael Nuñez. Die neuen „Capability Thresholds“ definieren Schwellenwerte für riskante Fähigkeiten von KI-Modellen, etwa im Bereich Biowaffen oder autonome KI-Forschung. Erreicht ein Modell einen solchen Schwellenwert, greifen zusätzliche Sicherheitsmaßnahmen. Die überarbeitete Richtlinie legt auch detailliertere Verantwortlichkeiten für einen „Responsible Scaling Officer“ fest, … Weiterlesen …

Anthropic senkt Kosten für Batch Processing

Anthropic bietet Unternehmen jetzt deutlich günstigeres AI-Batch-Processing an. Laut eines Berichts von Michael Nuñez bei VentureBeat können Firmen mit der neuen Message Batches API bis zu 10.000 Anfragen innerhalb von 24 Stunden asynchron verarbeiten. Die Kosten liegen dabei nur bei der Hälfte der regulären API-Gebühren. Sowohl Input- als auch Output-Token sind im Vergleich zur Echtzeitverarbeitung … Weiterlesen …

OpenAI vs Anthropic: So unterschiedlich sind die Konkurrenten

OpenAI (ChatGPT) und Anthropic (Claude) zeigen deutliche Unterschiede in ihren Geschäftsmodellen und Umsatzquellen. Laut Tanay Jaipuria wird OpenAI Ende 2024 voraussichtlich einen fünfmal höheren Umsatz als Anthropic erzielen. Während OpenAI dabei 73% seines Umsatzes durch ChatGPT-Abonnements generiert, stammen bei Anthropic 60-75% der Einnahmen aus Drittanbieter-APIs, insbesondere über Amazon. Im API-Geschäft liegen beide Unternehmen deshalb eng … Weiterlesen …

OpenAI-Mitbegründer wechselt zu Anthropic

Durk Kingma, Mitbegründer von OpenAI, wechselt zu Anthropic. Das gab er in einer Reihe von Beiträgen auf X (vormals Twitter) bekannt, wie Kyle Wiggers für TechCrunch berichtet. Kingma wird hauptsächlich aus den Niederlanden arbeiten, aber regelmäßig das Büro in San Francisco besuchen. Er betonte, dass Anthropics Ansatz zur KI-Entwicklung stark mit seinen eigenen Überzeugungen übereinstimme. … Weiterlesen …

Anthropic startet neue Finanzierungsrunde

Anthropic, das Unternehmen hinter der KI Claude, bereitet offenbar eine neue Finanzierungsrunde vor. Das geht aus einem Bericht von The Information hervor. Demnach könnte das Startup mit 30 bis 40 Milliarden US-Dollar bewertet werden. Das wäre ungefähr eine Verdopplung verglichen mit einer vorherigen Finanzierungsrunde am Anfang dieses Jahres. Anthropic ist ein direkter Konkurrent zu OpenAI … Weiterlesen …

Anthropic verbessert Claudes Zugriff auf große Datenbanken

Anthropic, das Unternehmen hinter dem KI-Assistenten Claude, stellt eine neue Methode zur Verbesserung von KI-Informationssuchen vor. Die „Contextual Retrieval“ genannte Technik reduziert fehlgeschlagene Suchanfragen in großen Datenbanken um bis zu 49 Prozent. In Kombination mit „Reranking“ sinkt die Fehlerrate um 67 Prozent. Das Verfahren ergänzt Textausschnitte vor der Indexierung um zusätzlichen Kontext, was dem KI-System … Weiterlesen …