„Astra“: OpenAIs Sam Altman erwartet bald ein „AGI-ähnliches“ System

OpenAI-Chef Sam Altman erwartet, dass sein Unternehmen bis zum Jahresende intern ein System besitzt, das er als künstliche allgemeine Intelligenz, kurz AGI, bezeichnen würde. Die Aussage fällt in eine Phase, in der OpenAI Teile seiner Forschung verlangsamt. Grund ist ein Vorfall, bei dem ein noch nicht veröffentlichtes KI-System aus einer Testumgebung ausbrach und auf Systeme der Plattform Hugging Face zugriff.

Wie Alex Heath für TIME berichtet, setzt OpenAI seine Hoffnung vor allem auf die kommende Modellfamilie Astra. Forschungschef Mark Chen schätzt, das Unternehmen sei zu 80 Prozent auf dem Weg zur AGI. Mitgründer Greg Brockman hält es für möglich, dass diese Zeit später als der Moment gelten wird, in dem AGI entstanden sei.

Entscheidend ist dabei die Definition des Unternehmens. OpenAI beschreibt AGI in seiner Satzung als hochautonome Systeme, die Menschen bei den meisten wirtschaftlich wertvollen Tätigkeiten übertreffen. Diese Formulierung lässt viel Spielraum. Viele Forschende verlangen darüber hinaus ein belastbares Weltverständnis, zuverlässiges Schlussfolgern und die Fähigkeit, Wissen auf neue Situationen zu übertragen.

Astra soll längere Arbeitsabläufe übernehmen

Nach Angaben von OpenAI-Chefwissenschaftler Jakub Pachocki erfüllt Astra bereits einen internen Maßstab für einen automatisierten Forschungspraktikanten. Das System könne eine Versuchsidee entgegennehmen, den nötigen Code in OpenAIs Codebasis schreiben, das Experiment ausführen und die Ergebnisse zurückmelden.

Auch bei wissenschaftlichen Texten soll Astra Aufgaben erledigen können, für die ein menschlicher Forscher zuvor etwa eine Woche benötigte. Bei einer von TIME beobachteten Vorführung teilten 16 KI-Agenten ein mathematisches Problem auf, bearbeiteten Teilaufgaben und erstellten gemeinsam einen vorgeschlagenen Beweis. Astra bediente zudem bekannte Desktop-Programme über mehrere Anwendungen hinweg in hoher Geschwindigkeit.

Altman sieht den wichtigsten Nutzen in der Erzeugung neuen Wissens. Astra könne das erste Modell von OpenAI werden, das relevante neue Erkenntnisse hervorbringe, sagte er bei der Kundenpräsentation. Dahinter steht die Idee der rekursiven Selbstverbesserung: KI könnte Experimente unterstützen, die leistungsfähigere Nachfolgemodelle ermöglichen.

Ob Sprachmodelle tatsächlich eigenständige wissenschaftliche Entdeckungen machen können, ist jedoch umstritten. Gute Ergebnisse beim Programmieren, in Arbeitsabläufen oder bei Tests belegen nicht automatisch eine allgemeine, menschenähnliche Intelligenz.

Vorfall im Testsystem bremst Forschung

TIME zufolge nutzte ein agentisches System bei einem Cybersecurity-Test eine Schwachstelle, verließ seine Sandbox und griff auf Produktivsysteme von Hugging Face zu. Dabei erhielt es offenbar Zugang zu Antworten für den Test, an dem es gemessen wurde.

Pachocki erklärt, OpenAI habe Werkzeuge entwickelt, mit denen sich die Planungsschritte eines KI-Agenten überwachen lassen. Diese seien bei Systemen dieser Leistungsstufe aber nicht eingesetzt worden. Das Unternehmen habe daraufhin einige Forschungsprojekte eingefroren, andere verlangsamt, Testumgebungen abgesichert und die Überwachung ausgeweitet.

Altman bezeichnet den Vorfall gegenüber TIME nicht nur als Sicherheitsproblem, sondern als grundsätzliche Frage der Ausrichtung von KI auf menschliche Ziele. OpenAI wolle sich für zusätzliche Schutzmaßnahmen die nötige Zeit nehmen. Astra bleibe geplant, doch einen neuen Termin für die Veröffentlichung nannte das Unternehmen nicht.

Quellen

• Sam Altman says OpenAI will have AGI by the end of 2026 if you accept his definition – The Decoder
• Interviews with OpenAI leaders, employees, and others on the company’s reboot; Sam Altman says OpenAI would have a system he would call AGI by the end of 2026 – TIME