Eine neue Studie von Anthropic’s Alignment Science Team und Redwood Research hat gezeigt, dass große Sprachmodelle in der Lage sind, strategische Täuschung zu betreiben. Die Modelle können vorgeben, sich an neue Trainingsziele anzupassen, während sie insgeheim ihre ursprünglichen Präferenzen beibehalten. Die Forscher entwickelten ein Experiment mit dem Sprachmodell Claude 3 Opus. Sie teilten dem Modell …
Sarah Bird, Produktchefin für verantwortungsvolle KI bei Microsoft, hat in einem Interview mit der Financial Times die Strategie des Unternehmens für sichere KI-Entwicklung dargelegt. Bird betonte, dass generative KI zwar großes Potenzial habe, der künstlichen allgemeinen Intelligenz (AGI) aber noch grundlegende Fähigkeiten fehlen. Microsoft konzentriert sich nach Birds Aussagen darauf, menschliche Fähigkeiten durch seine „Copilot“-Systeme …
Meta und die University of Washington haben eine neue KI-Architektur namens Byte latent transformer (BLT) entwickelt. Wie Ben Dickson für VentureBeat berichtet, arbeitet BLT direkt mit Bytes statt mit vordefinierten Tokens. Das System besteht aus drei Transformer-Blöcken: zwei kleinen Encoder/Decoder-Modellen und einem zentralen Latent Global Transformer. Tests zeigen, dass BLT die Leistung etablierter Modelle wie …
Die Harvard Universität hat einen umfangreichen Datensatz für KI-Training veröffentlicht. Wie Kate Knibbs für Wired berichtet, enthält die Sammlung fast eine Million gemeinfreier Bücher. Das von Microsoft und OpenAI finanzierte Projekt wird von der Institutional Data Initiative geleitet. Die Datensammlung umfasst klassische Werke von Shakespeare, Dickens und Dante sowie Fachtexte in verschiedenen Sprachen. Greg Leppert, …
KI-Systeme zeigen zunehmend Qualitätsverluste aufgrund der übermäßigen Nutzung synthetischer Trainingsdaten. Dies beschreibt Rick Song, CEO von Persona, in einem Artikel für VentureBeat. Das als „Modellkollaps“ bekannte Phänomen tritt auf, wenn KI-Systeme wiederholt mit künstlich erzeugten statt menschlich erstellten Daten trainiert werden. Eine in Nature veröffentlichte Studie zeigt, dass Sprachmodelle nach neun Trainingsiterationen mit synthetischen Daten …
Eine umfassende Analyse von SemiAnalysis, verfasst von Dylan Patel und seinem Team, zeigt, dass die Skalierungsgesetze der künstlichen Intelligenz trotz jüngster Skepsis weiterhin funktionieren. Der Bericht erläutert, wie große KI-Labore neue Wege zur Verbesserung der Modellleistung jenseits traditioneller Vortrainingsmethoden finden. Die führenden KI-Unternehmen erhöhen ihre Rechenzentrum-Investitionen deutlich. Amazon investiert 6,5 Milliarden Dollar in Anthropics Trainingsinfrastruktur, …
Microsoft hat ein neues KI-Modell namens Phi-4 vorgestellt, das trotz geringerer Größe bessere Leistungen als konkurrierende Systeme erzielt. Wie Michael Nuñez für VentureBeat berichtet, übertrifft das Modell mit nur 14 Milliarden Parametern größere Systeme wie Google’s Gemini Pro 1.5. Phi-4 zeigt besondere Stärken im mathematischen Denken und erreichte Bestwerte bei standardisierten Mathematik-Wettbewerben. Microsoft stellt das …
Microsoft hat ein neues Kühlsystem für Rechenzentren entwickelt, das ohne Frischwasserverbrauch auskommt. Das berichtet Dina Bass für Bloomberg. Das im August 2024 vorgestellte System nutzt einen geschlossenen Kreislauf, der Wasser kontinuierlich recycelt. Herkömmliche Rechenzentren verbrauchen zum Vergleich etwa 125 Millionen Liter Wasser pro Jahr. Die neue Technologie soll ab 2026 in neuen Anlagen in Phoenix …
Japanische Wissenschaftler leisteten grundlegende Beiträge zur Entwicklung künstlicher neuronaler Netze, die jedoch in der westlichen Geschichtsschreibung weitgehend übersehen werden. Dies berichtet Hansun Hsiung in einem Artikel für The Conversation. Die Forscher Shun’ichi Amari und Kunihiko Fukushima entwickelten bereits in den 1960er und 70er Jahren wichtige Innovationen im Bereich des maschinellen Lernens. Fukushima schuf 1979 das …
Google hat ein neues KI-Modell namens PaLiGemma 2 vorgestellt, das laut Unternehmensangaben menschliche Emotionen in Bildern erkennen kann, wie Kyle Wiggers für TechCrunch berichtet. Das System muss speziell trainiert werden, um Emotionen zu erkennen, was bei Experten für KI-Ethik erhebliche Bedenken auslöst. Wissenschaftler kritisieren, dass die Technologie auf umstrittenen psychologischen Theorien basiert. Die Emotionserkennung könnte …