Umfrage: KI-Sicherheitsvorfälle häufen sich mit zunehmender Integration

Je tiefer Unternehmen KI in ihre Prozesse integrieren, desto wahrscheinlicher werden Sicherheitsvorfälle. Das zeigt eine neue Umfrage des Geräteverwaltungsanbieters Jamf unter 687 IT-Verantwortlichen. Die Studie deckt eine wachsende Lücke zwischen KI-Einführung und der Fähigkeit auf, diese zu steuern und zu überwachen.

72,9 Prozent der Befragten gaben an, dass ihr Unternehmen KI bereits in irgendeiner Form nutzt. Unternehmen mit tief integrierter KI haben eine um 40 Prozent höhere Wahrscheinlichkeit für einen KI-bezogenen Sicherheitsvorfall als Unternehmen, die sich noch am Anfang befinden. Als Hauptgrund nennt die Studie mangelnde Transparenz: Die Kontrollmöglichkeiten hinken der Nutzung hinterher.

22 Prozent der Befragten berichten, ihr Unternehmen habe bereits einen KI-bezogenen Sicherheitsvorfall erlebt. Dieser habe unerwartete Kosten, ein Sicherheitsproblem oder beides verursacht. Weitere 59,7 Prozent stufen solche Vorfälle als unmittelbares Unternehmensrisiko ein.

Vier zentrale Herausforderungen

• Schatten-KI: Mitarbeitende nutzen KI-Tools ohne Genehmigung der IT. Das Unternehmen hat kaum Überblick darüber, wie Daten dabei verwendet werden.
• Agentenbasierte KI und Entwickler-KI: Diese Tools setzen auf Befehlszeilen, eingebettete Modelle und autonome Workflows, die herkömmliche Überwachungstools oft nicht erfassen.
• Wachsende Produktpalette: Softwareanbieter ergänzen bestehende Produkte laufend um KI-Funktionen. Das erhöht die Zahl der Tools, die IT-Teams bewerten und verwalten müssen.
• Kostenmanagement: Nutzungsabhängige Preismodelle und sich überschneidende Abonnements erschweren es, Ausgaben nachzuverfolgen und den tatsächlichen Mehrwert zu beurteilen.

Bei den Prioritäten für die nächsten zwölf Monate steht die Automatisierung von IT-Prozessen an erster Stelle (44,4 Prozent), gefolgt von KI-gestützten Produktivitäts-Tools (41,0 Prozent) und dem Aufbau von KI-Governance (36,7 Prozent). Die Daten zeigen: IT-Teams wollen KI nicht bremsen, sondern verantwortungsvoll voranbringen.

Jamf-CEO Beth Tschida wird in der Pressemitteilung zur Studie zitiert: „KI ist keine einzelne Anwendung, die von der IT-Abteilung genehmigt, ausgerollt und dann zur Seite gelegt werden kann.“ Die Herausforderung bestehe darin, den Überblick und die Kontrolle über die zunehmend genutzte KI zu behalten. Tschida sieht Unternehmen, die auf Apple setzen, im Vorteil, da Apples Datenschutzmodell und integrierte Verwaltungsfunktionen eine solide Grundlage für KI-Governance böten.

Die Studie kommt zu dem Schluss: Die entscheidende Frage ist nicht mehr, ob Unternehmen KI einführen. Es geht darum, wie die Governance mit der Einführung Schritt halten kann.