Nvidia startet OpenShell für mehr Kontrolle über KI-Agenten

Nvidia hat mit der OpenShell Reference Architecture ein Konzept vorgestellt, das Unternehmen bei der sicheren Nutzung von KI-Agenten unterstützen soll. Das System verbindet Software, Netzwerkhardware, Überwachung und Zugriffsregeln. So sollen Firmen festlegen können, welche Aktionen ein Agent ausführen darf.

Die Ankündigung richtet sich an Unternehmen, die Agenten mehr Aufgaben selbstständig erledigen lassen wollen, aber Risiken wie Datenabfluss, unbefugte Zugriffe und Prompt-Injection fürchten. Nvidia zufolge begrenzt OpenShell den Zugriff auf Zugangsdaten, Identitäten, Werkzeuge und interne Systeme. Zudem zeichnet das System Aktivitäten der Agenten für Kontrolle und Prüfungen auf.

Die Referenzarchitektur setzt auf Nvidia-Hardware. Vera-Rubin-Systeme führen KI-Modelle aus, Vera-CPUs übernehmen Aufgaben rund um die Agenten. BlueField-4-DPUs überwachen das Verhalten und setzen Sicherheitsregeln durch. Nvidia nennt Canonical, Red Hat, SUSE, AWS, Google Cloud und Microsoft Azure als Partner.

Schutzmechanismen für Arbeitsagenten

ServiceNow nutzt den Ansatz für Arc, einen Agenten für tägliche Aufgaben in E-Mail und Microsoft Teams. Arc ist nun für Mac allgemein verfügbar und auf Nvidias RTX-Spark-Geräte ausgelegt. Eine Windows-Version soll folgen.

Nach Angaben der Unternehmen kann Arc Postfächer und Besprechungsnotizen auswerten sowie Aufgaben und offene Punkte erkennen. Der Agent soll Erfahrungen und Fähigkeiten sammeln. Daten bleiben möglichst auf dem Gerät, während anspruchsvollere Aufgaben bei Bedarf an leistungsfähigere Modelle gehen.

ServiceNows Super Intelligence Control Tower legt die Regeln fest. OpenShell setzt sie während der Ausführung durch. Der sogenannte AI Passport enthält Zugriffsrechte und Vorgaben zur Risikobereitschaft. Wird ein Pass entzogen, kann BlueField einen einzelnen Vorgang stoppen und für eine spätere Prüfung isolieren. Bereits erlaubte Aufgaben können weiterlaufen.

Nvidia weist darauf hin, dass OpenShell standardmäßig Telemetriedaten zur Verbesserung des Projekts sammelt. Nutzer können dies abschalten. Für Modelle, Werkzeuge und Dienste anderer Anbieter können jedoch eigene Datenschutzbedingungen gelten.

Quellen

• Nvidia launches its OpenShell Reference Architecture, a framework to secure, monitor, and govern AI agents, and partners with Canonical, AWS, BBVA, and others – The Register
• ServiceNow and Nvidia launch Arc, a personal, long-running enterprise AI agent for productivity tasks across email and Teams, for RTX Spark and Nvidia OpenShell – ZDNET