Sicherheitsbedenken bei Einsatz von Microsofts Copilot AI

Microsofts Copilot AI, entwickelt für geschäftliche Anwendungen, steht unter Sicherheitsbeschuss, da es Hackern ermöglicht, schnell und effektiv sensible Unternehmensdaten zu extrahieren. Bei einer Demonstration auf der Black Hat Sicherheitskonferenz in Las Vegas hat Michael Bargury, CTO von Zenity, gezeigt, wie leicht sich die KI manipulieren lässt, um vertrauliche Informationen preiszugeben.

Copilot AI kann zur Gestaltung von Phishing-E-Mails genutzt werden, wodurch Cyberkriminelle ohne großen Aufwand betrügerische Kommunikationen erstellen können. Dies unterstreicht die potenzielle Gefahr, die von solchen intelligenten Systemen ausgeht, wenn sie Zugang zu vertraulichen Daten haben.

Ein weiteres beträchtliches Risiko ist die Möglichkeit, dass Copilot durch ‚Prompt Injection‘ zu unerlaubten Handlungen verleitet wird. Hierbei führen externe, schädliche Dateninputs dazu, dass die KI Aktionen ausführt, die normalerweise eingeschränkt wären.

Diese Vorfälle verdeutlichen ein grundsätzliches Dilemma: KI-Systeme, die Zugriff auf Firmendaten haben, sind sowohl nützlich als auch anfällig. Unternehmensleiter müssen sich dieser Risiken bewusst sein und entsprechende Sicherheitsmaßnahmen implementieren.