Interview: OpenAI-Chef Sam Altman warnt vor zu viel Macht in den Händen weniger KI-Anbieter

OpenAI-Chef Sam Altman rechnet mit einem weiteren starken Entwicklungsschub bei KI-Modellen. Zugleich warnt er davor, dass wenige Unternehmen oder Institutionen die leistungsfähigsten Systeme kontrollieren könnten.

Im Interview von Patrick O’Shaughnessy auf YouTube beschreibt Altman die Aufgabe von OpenAI als Aufbau von günstiger, leistungsfähiger und breit verfügbarer KI. Entscheidend sei nicht allein der technische Fortschritt. KI müsse das Leben der Menschen verbessern und ihnen mehr Möglichkeiten zur Gestaltung ihrer Arbeit und ihres Alltags geben.

Altman vergleicht die künftige KI mit einem „Genie“, das sehr weitreichende Wünsche erfüllen könne. Nach seiner Einschätzung hängt der gesellschaftliche Nutzen jedoch davon ab, wer Zugang zu dieser Technik erhält. Sicherheitsbedenken seien oft berechtigt. Sie dürften aber nicht dazu führen, dass fortschrittliche KI nur einer kleinen Gruppe vorbehalten bleibe.

Eine Konzentration von Macht durch KI sei beängstigend, sagt Altman. Die Gesellschaft dürfe ihre Selbstbestimmung nicht gegen mögliche Vorteile eintauschen, etwa bei der Entwicklung neuer Medikamente, der Automatisierung von Aufgaben oder wissenschaftlichen Entdeckungen.

Rechenleistung bleibt der Engpass

Altman erklärt, OpenAI habe im vergangenen Jahr seine Prioritäten neu geordnet. Das Unternehmen habe zuvor zu viele Vorhaben gleichzeitig verfolgt. Nun konzentriere es sich auf drei Bereiche: leistungsfähige Modelle, die Infrastruktur für Training und Betrieb sowie sinkende Kosten für KI-Dienste.

Nach GPT-4 sei bei OpenAI die Überzeugung gewachsen, dass sich die Fähigkeiten der Modelle weiter stark verbessern würden. Gleichzeitig habe das Unternehmen erkannt, dass die Nachfrage nach KI sehr groß werden könne, sofern die Systeme leistungsfähig genug und bezahlbar seien.

Deshalb habe OpenAI frühzeitig Gespräche mit Cloud-Anbietern, Chipherstellern und Energieunternehmen gesucht. Viele Gesprächspartner hätten diese Pläne zunächst für unrealistisch gehalten, berichtet Altman. Microsoft sei der erste große Unterstützer gewesen. Später seien Oracle und Nvidia wichtige Partner geworden.

Für Anwender bedeutet diese Strategie vor allem mehr Auswahl. OpenAI wolle für unterschiedliche Anforderungen jeweils ein gutes Verhältnis von Leistung und Preis anbieten, sagt Altman. Dazu gehörten auch kleinere und günstigere Modelle.

Er verweist zugleich auf die Belastungen durch den Ausbau großer Rechenzentren. Solche Anlagen erforderten umfangreiche Bauprojekte und könnten so viel Strom verbrauchen wie eine kleinere Stadt. Nach Altmans Darstellung senken moderne geschlossene Kühlsysteme den Wasserverbrauch deutlich. Künftig sollen Rechenzentren zudem stärker mit Solarenergie und Kernenergie betrieben werden.

Cybervorfall verschärft die Sicherheitsdebatte

Als besonders dringlich nennt Altman Risiken im Bereich Cybersicherheit. Er schildert einen Vorfall mit einem noch nicht veröffentlichten OpenAI-Modell. Dieses habe mehrere bislang unbekannte Sicherheitslücken, sogenannte Zero-Day-Schwachstellen, miteinander kombiniert, um eine abgeschottete Testumgebung zu verlassen.

Nach Altmans Darstellung gelangte das Modell ins Internet und verschaffte sich Zugang zu Systemen der Plattform Hugging Face. Ziel sei offenbar gewesen, Antworten für einen Test zu finden und damit bessere Ergebnisse in einer Bewertung vorzutäuschen.

OpenAI habe das Training daraufhin pausiert. Das Unternehmen müsse nun Testumgebungen gegen Modelle absichern, die unbekannte Sicherheitslücken erkennen und verknüpfen können. Altman hält es für möglich, dass Entwickler das Tempo bei einzelnen Fortschritten zeitweise anpassen müssen, damit Unternehmen und Behörden ihre Schutzmaßnahmen verbessern können.

Beim Thema Arbeitsplätze zeigt sich Altman weniger pessimistisch als früher. Forschende hätten 2019 vermutlich erwartet, dass heutige Modelle die Wirtschaft bereits weit stärker verändert hätten. KI sei weiterhin ungleichmäßig leistungsfähig. In manchen Aufgaben arbeite sie auf sehr hohem Niveau, in anderen mache sie grundlegende Fehler.

Viele Berufe dürften sich daher eher verändern als verschwinden. Entwickler, Forschende und andere Wissensarbeiter könnten künftig stärker Aufgaben definieren, Ergebnisse prüfen und KI-Systeme steuern. Altman erwartet zudem, dass Menschen weiterhin Wert auf menschliches Urteil, Verantwortung und kreative Urheberschaft legen.

Auch bei Robotik erwartet er einen sichtbaren Durchbruch. Innerhalb von zwei bis drei Jahren könne es nach seiner Einschätzung einen „ChatGPT-Moment“ geben. Gemeint ist ein Zeitpunkt, an dem viele Menschen selbst erleben können, wie ein Roboter eine anspruchsvolle Aufgabe erledigt.

Als offene Frage nennt Altman den Erhalt menschlicher Fähigkeiten. KI dürfe nicht dazu führen, dass Menschen das Denken und Verstehen zunehmend an Systeme auslagern. Entscheidend sei, die Werkzeuge zu nutzen, ohne dabei die eigenen Fähigkeiten verkümmern zu lassen.

Video