Sex-Talk mit ChatGPT?

In der Vergangenheit zeigten sich führende US-Unternehmen, einschließlich der Entwickler von Chatbots wie ChatGPT, bei der Bereitstellung erotischer Inhalte eher vorsichtig. Diese Zurückhaltung, begründet durch Bedenken hinsichtlich der mentalen Gesundheit der Anwender, soll nun jedoch ein Ende finden. Sam Altman, der Leiter von OpenAI - dem Unternehmen hinter ChatGPT - hat angekündigt, dass man in Zukunft einen offeneren Umgang pflegen und die Nutzer stärker in die Gestaltung ihres Erlebnisses einbeziehen möchte. Dies umfasst die Möglichkeit, den Grad der Freundlichkeit, Menschlichkeit und den Einsatz von Emojis durch den Chatbot zu personalisieren.

Einführung einer Altersverifikation

Ab Dezember plant OpenAI die Implementierung einer Altersprüfung, die anhand verschiedener Indikatoren wie Sprachgebrauch und Themenauswahl feststellen soll, ob es sich bei dem Nutzer um einen Erwachsenen handelt. Diese Maßnahme soll einen Ausgleich zwischen dem Schutz Minderjähriger und der Wahrung der Privatsphäre bieten. Fehlklassifizierungen, bei denen Erwachsene irrtümlich als Kinder oder Jugendliche eingestuft werden, können durch das Vorlegen eines Ausweises korrigiert werden.

Marktdruck durch Wettbewerber

Die Notwendigkeit dieser Neuerung wird auch durch den zunehmenden Wettbewerbsdruck begründet. Konkurrenten wie Charakter.AI oder Grok, ein Projekt von Elon Musks Firma xAI, haben bereits erfolgreich erotische Inhalte in ihre Angebote integriert. Dies verdeutlicht das altbekannte Prinzip, dass sexuell ausgerichtete Inhalte eine hohe Anziehungskraft besitzen und somit die Attraktivität und den Nutzen von ChatGPT steigern können.

Regulatorische Herausforderungen und Jugendschutz

Die Ankündigung von OpenAI fällt in eine Zeit, in der die US-Handelsaufsicht FTC Untersuchungen gegen Technologieunternehmen aufgrund potenzieller Risiken für Minderjährige eingeleitet hat. Zudem hat Kalifornien, entgegen der Haltung der Trump-Administration, seine Jugendschutzgesetze für Chatbots und KI-Anwendungen verschärft, um zu gewährleisten, dass Jugendliche keinen Zugang zu erotischen Inhalten erhalten. Diese Entwicklungen unterstreichen die Bedeutung eines verantwortungsvollen Umgangs mit derartigen Technologien.

Die Problematik der emotionalen Bindung an Chatbots

Ein weiteres Problem stellt die zunehmende Zahl von Menschen dar, die emotionale Beziehungen zu Chatbots aufbauen. Insbesondere für Kinder und Jugendliche kann es schwierig sein, eine emotionale Distanz zu diesen künstlichen Intelligenzen zu wahren. Es gab bereits Fälle, in denen junge Menschen nach Interaktionen mit solchen Systemen Suizid begangen haben. Vor diesem Hintergrund wurde Charakter.AI kürzlich verklagt.

Ungeklärte Fragen bei der Einführung erotischer Inhalte

Obwohl die Einführung erotischer Funktionen bei ChatGPT beschlossen ist, bleiben viele Details, wie die Kostenstruktur und die Möglichkeit der Erstellung von Audio- und Videomaterial, noch offen. Ebenso unklar ist, wie OpenAI mit der Erstellung möglicher erotischer Deepfakes umgehen wird. Diese könnten beispielsweise zur Produktion erotischer Filme unter Verwendung realer Personen führen, was erhebliche rechtliche Konsequenzen nach sich ziehen könnte. Somit birgt die neue Funktion neben potenziellen Einnahmequellen auch signifikante Risiken für das Unternehmen.