Anthropic

Anthropic testet seine KI-Modelle auf Sabotage-Fähigkeiten

Anthropic hat neue Sicherheitsbewertungen für KI-Modelle entwickelt, die deren Fähigkeit zur Sabotage testen. In einem Blog-Post beschreibt das Unternehmen vier Testarten: „Human decision sabotage“, „Code sabotage“, „Sandbagging“ und „Undermining oversight“. Bei Human decision sabotage versuchen die Modelle, Menschen zu falschen Entscheidungen zu verleiten, ohne Verdacht zu erregen. Die Code sabotage testet, ob Modelle unbemerkt Fehler …

Weiterlesen …

Anthropic aktualisiert Sicherheitsrichtlinien für KI

Anthropic hat seine Sicherheitsrichtlinien für KI aktualisiert, um Missbrauch zu verhindern, berichtet VentureBeat-Autor Michael Nuñez. Die neuen „Capability Thresholds“ definieren Schwellenwerte für riskante Fähigkeiten von KI-Modellen, etwa im Bereich Biowaffen oder autonome KI-Forschung. Erreicht ein Modell einen solchen Schwellenwert, greifen zusätzliche Sicherheitsmaßnahmen. Die überarbeitete Richtlinie legt auch detailliertere Verantwortlichkeiten für einen „Responsible Scaling Officer“ fest, …

Weiterlesen …

Anthropic senkt Kosten für Batch Processing

Anthropic bietet Unternehmen jetzt deutlich günstigeres AI-Batch-Processing an. Laut eines Berichts von Michael Nuñez bei VentureBeat können Firmen mit der neuen Message Batches API bis zu 10.000 Anfragen innerhalb von 24 Stunden asynchron verarbeiten. Die Kosten liegen dabei nur bei der Hälfte der regulären API-Gebühren. Sowohl Input- als auch Output-Token sind im Vergleich zur Echtzeitverarbeitung …

Weiterlesen …

OpenAI vs Anthropic: So unterschiedlich sind die Konkurrenten

OpenAI (ChatGPT) und Anthropic (Claude) zeigen deutliche Unterschiede in ihren Geschäftsmodellen und Umsatzquellen. Laut Tanay Jaipuria wird OpenAI Ende 2024 voraussichtlich einen fünfmal höheren Umsatz als Anthropic erzielen. Während OpenAI dabei 73% seines Umsatzes durch ChatGPT-Abonnements generiert, stammen bei Anthropic 60-75% der Einnahmen aus Drittanbieter-APIs, insbesondere über Amazon. Im API-Geschäft liegen beide Unternehmen deshalb eng …

Weiterlesen …

OpenAI-Mitbegründer wechselt zu Anthropic

Durk Kingma, Mitbegründer von OpenAI, wechselt zu Anthropic. Das gab er in einer Reihe von Beiträgen auf X (vormals Twitter) bekannt, wie Kyle Wiggers für TechCrunch berichtet. Kingma wird hauptsächlich aus den Niederlanden arbeiten, aber regelmäßig das Büro in San Francisco besuchen. Er betonte, dass Anthropics Ansatz zur KI-Entwicklung stark mit seinen eigenen Überzeugungen übereinstimme. …

Weiterlesen …

Anthropic startet neue Finanzierungsrunde

Anthropic, das Unternehmen hinter der KI Claude, bereitet offenbar eine neue Finanzierungsrunde vor. Das geht aus einem Bericht von The Information hervor. Demnach könnte das Startup mit 30 bis 40 Milliarden US-Dollar bewertet werden. Das wäre ungefähr eine Verdopplung verglichen mit einer vorherigen Finanzierungsrunde am Anfang dieses Jahres. Anthropic ist ein direkter Konkurrent zu OpenAI …

Weiterlesen …

Anthropic verbessert Claudes Zugriff auf große Datenbanken

Anthropic, das Unternehmen hinter dem KI-Assistenten Claude, stellt eine neue Methode zur Verbesserung von KI-Informationssuchen vor. Die „Contextual Retrieval“ genannte Technik reduziert fehlgeschlagene Suchanfragen in großen Datenbanken um bis zu 49 Prozent. In Kombination mit „Reranking“ sinkt die Fehlerrate um 67 Prozent. Das Verfahren ergänzt Textausschnitte vor der Indexierung um zusätzlichen Kontext, was dem KI-System …

Weiterlesen …

Workspaces für Claude helfen beim KI-Management

Anthropic führt mit „Workspaces“ eine neue Funktion für die Verwaltung von KI-Systemen in Unternehmen ein. Das Startup ermöglicht damit die Erstellung und Steuerung mehrerer isolierter Umgebungen für Claude-KI-Implementierungen, wie Michael Nuñez bei VentureBeat berichtet. Unternehmen können nun Ausgaben- und Nutzungslimits festlegen, API-Schlüssel gruppieren und den Zugriff über Benutzerrollen kontrollieren. Die Funktion adressiert wichtige Herausforderungen bei …

Weiterlesen …

Anthropic hilft mit besseren Prompts

Anthropic hat neue Funktionen für sein Sprachmodell Claude veröffentlicht, die Entwicklern helfen sollen, bessere Prompts zu erstellen und so die Leistung ihrer KI-Anwendungen zu optimieren. 

Neue Version und Funktionen für ChatGPT-Alternative Claude

Anthropics neues Sprachmodell Claude 3.5 Sonnet sorgt für Aufsehen in der KI-Community. Laut Berichten übertrifft es bisherige Modelle wie GPT-4 in Benchmark-Tests und beeindruckt Nutzer mit seiner Leistungsfähigkeit. Demnach kann es auch komplexe Aufgaben wie Spieleprogrammierung oder Webentwicklung bewältigen.  Trotz Schwächen bei einfachen kognitiven Aufgaben zeigt Claude 3.5 Sonnet das Entwicklungstempo im Bereich der großen Sprachmodelle und setzt damit …

Weiterlesen …

×