Internationale Medien

Generative KI und Erotik - Kreativität und kriminelle Schattenseite

Für die Adult- und Erotik-Industrie eröffnet die Künstliche Intelligenz völlig neue Möglichkeiten bei der Produktionsunterstützung, dem Betrieb der hochprofitablen Portale und bei der Vermarktung – bis hin zur Virtualisierung von Protagonisten und Contentwelten. Die großen KI-Anbieter wiederum verfolgen bislang bei der Generativen KI von Bildern und Videos Policies zur Vermeidung von zu viel nackter Haut und expliziten Inhalten. Prompts mit erotiknahem Kontext, insbesondere Darstellungen mit nicht ausdrücklich erwachsenen Charakteren, werden abgelehnt oder weichgespült. Oft brauchen die LLM ausführliche Negativ-Prompts, um sich auf die Generierung von Adult-Inhalten einzulassen. Diese Marktlücke nutzen alternative Anbieter und GenAI-Lösungen die via API und mit eigenen, liberaleren Nutzungsregeln auf die Sprachmodelle der großen und kleinen Player zugreifen.

Jetzt hat OpenAI, Entwickler von ChatGPT, DALL-E, Sora und Whisper, angekündigt einen „Adult-Modus“ einzuführen, der auch erotische Inhalte erlaubt. Über Details und Einschränkungen wird wild spekuliert, aber es ist klar, dass die KI-Anbieter -nicht zuletzt auf der Suche nach neuen Monetarisierungswegen- sich das Geschäft nicht entgehen lassen werden. Das Umsatzpotential und die Kundennachfrage wird dabei typischerweise unterschätzt. Analysen von Suchanfragen und Prompts zeigen, das NSFW-Inhalte aller Art regelmäßig auf den oberen Ranking-Plätzen auftauchen. Und nicht nur in der Nacht und im privaten Umfeld. Auch aus Firmennetzen und vom Arbeitsplatz aus. Selbst auf einem business-orientiertem Online-Magazin wie dem KI Expertenforum stammt ein überraschend großer Teil des organischen Traffics aus Suchen nach NSFW-Content oder Berichten darüber. Seit über 2 Jahren ist -Tag für Tag- der abrufstärkste Artikel ein Beitrag über AI-Deepfakes und die Ermittlungen zum Einsatz von sogenannten „Nackt-Apps“ durch spanische Schüler. Ein Thema, das damals Medien weltweit beschäftigt hat.

NSFW war lange ein lose genutzter Internet-Warnhinweis: „Not Safe for Work“ signalisierte, dass Links oder Bilder im Büro unangebracht sein könnten. Im Zeitalter generativer KI wird der Begriff zur Richtschnur für eine Industrie im Umbruch – und für einen wachsenden Graubereich, in dem neue Geschäftsmodelle, Content-Moderation, Gesetzgebung und Kriminalität miteinander verwoben sind. Unter NSFW fallen aus journalistischer Sicht zwei sehr unterschiedliche Sphären: legale, teils innovative Produktion erotischer Inhalte mit Hilfe von KI – und der Missbrauch generativer Systeme, etwa durch non-consensual deepfake porn, „Nackt-Apps“ oder Sextortion. Der Spannungsbogen reicht von der kreativen Nutzung bis zur Verletzung von Persönlichkeitsrechten.

Biden unterzeichnet wegweisende KI-Verordnung

Prompt-Frameworks