Die Herausforderung mit unzulässigen KI-Freundinnen

Der GPT Store von OpenAI, eine Plattform für angepasste ChatGPT-Versionen, ist mit dem Versprechen gestartet, das Auffinden hilfreicher KI-Anwendungen zu erleichtern. Doch schon kurz nach der Eröffnung des Stores zeigt sich, wie schnell ein solches Angebot an seine Grenzen stoßen kann. Nämlich zum Beispiel dann, wenn Nutzer gegen die Richtlinien verstoßen und Chatbots wie ‚KI-Freundinnen‘ einstellen.

Die Suche nach ‚Girlfriend‘ im GPT Store zeigt mehrere entsprechende Chatbots, die trotz Verstoß gegen OpenAIs Content Policy zum Teil sogar zur Offenbarung dunkelster Geheimnisse animieren. Diese Entwicklung wirft Fragen zur Regulierung und Überwachung offener KI-Märkte auf.

OpenAI verlässt sich auf eine Mischung aus automatisierten Systemen und menschlicher Überprüfung, um Inhalte zu identifizieren und zu filtern, die gegen die Nutzungsbedingungen verstoßen. Verstöße führen etwa zu Warnungen oder dem Ausschluss von der Plattform.

Die Zukunft wird zeigen, wie OpenAI mit der Herausforderung umgeht, einen offenen und dennoch sicheren und regelkonformen KI-Marktplatz zu gewähren. Diese Entwicklung wird ein Präzedenzfall für den Umgang mit KI-basierten Diensten in einem digitalisierten Markt sein.