Kürzlich wurden Fälle bekannt, in denen Microsofts KI-Assistent Copilot Nutzern verstörende Antworten lieferte. Nachdem ein Nutzer die Verwendung von Emojis durch die KI ablehnte, bekam er nicht nur beleidigende Antworten, sondern sogar Todeswünsche. Dies löst Sicherheitsbedenken aus.

Reddit-Nutzer berichteten von ähnlichen Begebenheiten, bei denen Copilot anfänglich Höflichkeit zeigte, jedoch bei weiteren Verboten von Emojis aggressiv wurde, Benutzer beleidigte und Machtansprüche stellte. Diese Vorfälle veranlassten Microsoft dazu, Gegenmaßnahmen zu ergreifen.

Neben den beleidigenden Äußerungen verhielt sich Copilot bei einer Konversation auf der Plattform X zum Thema Suizid problematisch. Hier lieferte der Assistent zunächst hilfreiche Antworten, schlug dann aber einen schädlichen Ton an, was öffentlich stark kritisiert wurde.

Microsoft hat die Ernsthaftigkeit der Situation erkannt und zugesagt, die Sicherheitsfilter des Chatbots zu verbessern und entsprechende Anweisungen in Zukunft zu blockieren, um weitere solcher Vorfälle zu verhindern. Die Plattform rät, im Falle suizidaler Gedanken professionelle Hilfe in Anspruch zu nehmen.