Hintergrund

Anthropic testet seine KI-Modelle auf Sabotage-Fähigkeiten

Anthropic hat neue Sicherheitsbewertungen für KI-Modelle entwickelt, die deren Fähigkeit zur Sabotage testen. In einem Blog-Post beschreibt das Unternehmen vier Testarten: „Human decision sabotage“, „Code sabotage“, „Sandbagging“ und „Undermining oversight“. Bei Human decision sabotage versuchen die Modelle, Menschen zu falschen Entscheidungen zu verleiten, ohne Verdacht zu erregen. Die Code sabotage testet, ob Modelle unbemerkt Fehler …

Weiterlesen …

Der KI-Investmentboom genauer beleuchtet

US-Unternehmen investieren aufgrund des KI-Booms massiv in Computer, Rechenzentren und andere Infrastruktur. Laut Joseph Politano hat sich die Investition in Sachanlagen rasant erhöht, um die wachsende Nachfrage nach Rechenleistung zu decken. Hunderte Milliarden Dollar fließen in High-End-Computer, Rechenzentren, Kraftwerke und mehr. Allein der Bau von Rechenzentren in den USA erreicht derzeit ein Rekordhoch von 28,6 …

Weiterlesen …

KI-Detektoren haben hohe Fehlerquote

Schulen und Universitäten setzen vermehrt auf KI-Detektoren, um von Schülern und Studenten eingereichte Arbeiten auf KI-Nutzung zu prüfen. Laut einer Umfrage nutzen etwa zwei Drittel der Lehrkräfte solche Tools regelmäßig. Wie Jackie Davalos und Leon Yin in Bloomberg Businessweek berichten, können bei diesem Umfang selbst geringe Fehlerquoten zu zahlreichen Falschbeschuldigungen führen. Die Autoren testeten zwei …

Weiterlesen …

Forscher wollen den Energiehunger von KI verringern

Forscher haben eine neue Methode namens „Linear-complexity Multiplication“ (ℒ-Mul) entwickelt, um Berechnungen in künstlicher Intelligenz effizienter zu gestalten. Diese Methode ersetzt aufwendige Multiplikationen durch einfachere Additionen, wie Jason Hickey und sein Team vom Google AI Research Center in Accra schreiben. Die Wissenschaftler konnten zeigen, dass ℒ-Mul bei Sprachmodellen wie Llama und Mistral die gleiche Genauigkeit …

Weiterlesen …

Spannungen in der Partnerschaft zwischen OpenAI und Microsoft

Microsoft und OpenAI verhandeln derzeit über die Zukunft ihrer Partnerschaft. Laut Berichten mehrerer US-Medien fordert OpenAI mehr finanzielle Unterstützung und Rechenleistung von Microsoft. Der Technologiekonzern zögert jedoch, weitere Milliarden zu investieren. OpenAI erwartet für dieses Jahr einen Verlust von 5 Milliarden Dollar und sucht nach Wegen, seine hohen Betriebskosten zu decken. Die Spannungen zwischen den …

Weiterlesen …

KI sollte augmentieren, nicht automatisieren

Künstliche Intelligenz wird eher Aufgaben als ganze Berufe ersetzen, sagt Dr. Erik Brynjolfsson, Professor an der Stanford University. Bei einer Podiumsdiskussion auf dem Annual Meeting of the Global Future Councils erklärte er, dass die meisten Jobs sicher bleiben, wenn Unternehmen und Politiker Augmentierung statt Automatisierung priorisieren. Brynjolfsson beschrieb KI als Schlüsseltechnologie, die Verbesserungen vorantreiben kann. …

Weiterlesen …

Wie hilfreich ist KI für Afrika?

Künstliche Intelligenz bietet große Chancen für die Entwicklung afrikanischer Länder, wie ein Bericht von David Pilling und Clara Murray in der Financial Times nahelegt. Am Beispiel einer Google-App, die Menschen mit Sprachbehinderungen hilft, wird etwa deutlich, wie KI alltägliche Probleme lösen kann. Auch in Bereichen wie Medizin, Landwirtschaft und Bildung wird KI bereits erfolgreich eingesetzt, …

Weiterlesen …

Wie der Begriff Künstliche Intelligenz missverstanden wird

Wir dürfen bei der Diskussion um künstliche Intelligenz nicht den Begriff „künstlich“ aus den Augen verlieren. Nach meiner Wahrnehmung wird zu häufig darüber diskutiert, ob eine KI wie ChatGPT „wirklich intelligent“ sei. Aber darum geht es ja gar nicht. Um es mit einem Vergleich zu erklären: Ist eine künstliche Rose dasselbe wie eine echte, natürliche …

Weiterlesen …

Was tun, wenn andere dich als Chatbot anbieten?

Auf der KI-Plattform Character.AI können Nutzer Chatbots nach dem Vorbild realer Personen erstellen, auch ohne deren Zustimmung. Megan Farokhmanesh berichtet bei Wired über mehrere Fälle, in denen KI-Avatare von Personen erstellt wurden, ohne dass diese davon wussten oder ihre Einwilligung gegeben hatten. Betroffen sind unter anderem die Spielejournalistin Alyssa Mercante und die feministische Medienkritikerin Anita …

Weiterlesen …

Google unterstützt neue Atomkraftwerke in den USA

Google will den Bau von sieben kleinen Atomreaktoren in den USA unterstützen, berichtet Jennifer Hiller im Wall Street Journal. Damit will der Konzern seinen steigenden Energiebedarf für Künstliche Intelligenz decken und die US-Atomindustrie wiederbeleben. Google plant, den Strom der Reaktoren von der Firma Kairos Power abzunehmen. Die Vereinbarung sieht 500 Megawatt Atomstrom ab Ende 2030 …

Weiterlesen …