Sicherheitsexperten sehen zunehmende Risiken beim Einsatz autonomer KI-Agenten in Unternehmen. Ein aktueller Bericht von VentureBeat, verfasst von Emilia David, beschreibt die Herausforderungen dieser neuen Technologie. Die KI-Agenten benötigen für ihre Arbeit Zugriff auf sensible Unternehmensdaten, was erhebliche Sicherheitsbedenken aufwirft.
Nicole Carignan von Darktrace weist darauf hin, dass besonders Systeme mit mehreren Agenten neue Angriffsmöglichkeiten schaffen können. Der CISO von AWS, Chris Betz, betont die Notwendigkeit klarer Richtlinien für den Datenzugriff der Agenten. Zu den konkreten Bedrohungen gehören Datenvergiftung, Prompt-Injection und Social Engineering.
Als Lösung schlagen Experten vor, KI-Agenten ähnlich wie menschliche Mitarbeiter mit eigenen Zugriffsidentitäten auszustatten. Das Unternehmen Pega bietet mit seiner AgentX-Plattform bereits Möglichkeiten zur Überwachung von Agentenaktivitäten an. Die Branche ist sich jedoch einig, dass die bisherigen Sicherheitslösungen noch nicht ausreichen, um alle Risiken effektiv zu kontrollieren.
