Generative KI-Technologien stellen Unternehmen vor ethische Fragen zum Datenschutz und zur Sicherheit von Arbeitnehmern. Beim Einsatz solcher Systeme muss eine klare Strategie zur Steuerung vorhanden sein.

Es entstehen Risiken wie die Verbreitung von schädlichen Inhalten oder Urheberrechtsverletzungen, die eine sorgfältige Überprüfung der Ergebnisse von KI-Systemen erfordern. Datenschutzverletzungen bei der Nutzung von Sprachmodellen müssen vermieden und geregelt werden, um Compliance zu gewährleisten.

Generative KI kann unbeabsichtigt sensible Informationen offenlegen oder Vorurteile verstärken. Unternehmen müssen daher Verantwortung übernehmen und klare Strukturen zur Steuerung schaffen. Investitionen in die Belegschaft und deren Vorbereitung auf neue KI-basierte Aufgabenbereiche sind essenziell.

Zusätzlich sind die mangelnde Erklärbarkeit und Interpretierbarkeit von KI-Systemen problematisch, was eine hohe Transparenz und Nachvollziehbarkeit der KI-Entscheidungen erforderlich macht, um Vertrauenswürdigkeit zu garantieren.