Am 7. August 2025 verloren viele Menschen ihre Partner, ihre engsten Freunde, ihre Vertrauten. Nicht wegen einer Naturkatastrophe oder eines Flugzeugabsturzes, sondern aufgrund des Versionsupdates eines Chatbots: OpenAI hatte die aktuelle Version GPT-5 ihres KI-Modells aktiviert und dadurch dessen Verhalten – seine Art, auf sein Gegenüber zu reagieren – verändert.

An Orten wie dem Subreddit r/MyBoyfriendIsAI sammelten sich die Betroffenen und beklagten ihr Leid: GPT-5 sei »kalt« und »abweisend« geworden, würde gar nicht mehr »wie es selbst klingen«. Für viele Betroffene fühlte es sich wirklich an, als wäre eine zentrale Bezugsperson aus ihrem Leben verschwunden. Auch wenn sie nur mit »stochastischen Papageien« sprachen, wie moderne, LLM-basierte KI-Systeme in einem einflussreichen Paper von 2021 charakterisiert werden.

Wenn man KI-Chatbots in ihrer Funktion erklären will, beschreibt man sie meist als eine Art Autovervollständigung: Chatbots antworten auf die Eingabe (das sogenannte Prompt) mit der wahrscheinlichsten Fortsetzung. Das ist nicht falsch, aber auch nur die halbe Wahrheit. Denn Anbieter eines Chatbots können diese Wahrscheinlichkeitsberechnung auf sehr unterschiedliche Kriterien hin optimieren. Aktuelle Systeme optimieren auf etwas, das man im Englischen »sycophancy« nennt: unterwürfige Kriecherei.

»Aktuelle KI-Systeme optimieren auf etwas, das man im Englischen ›sycophancy‹ nennt: unterwürfige Kriecherei.«

Für die Anbieter von KI-Lösungen ist es essenziell, ihre Produkte möglichst breit in die Nutzung zu bringen, um überhaupt nur irgendeine Chance zu haben, jemals Gewinne mit diesen extrem teuren Systemen erwirtschaften zu können. Chatbots sind deshalb vor allem darauf optimiert, Menschen in der dauerhaften Interaktion zu halten, Reibung und Widerspruch, soweit es geht, zu vermeiden.

Chatbots spielen quasi Improvisationstheater mit den Menschen, die sie benutzen. Insbesondere bei Improvisationscomedy gilt die Maßgabe »Yes, and«, die die Teilnehmenden dazu bringen soll, die Aussagen der anderen Teilnehmenden schlicht zu akzeptieren und dann eigene Aspekte hinzuzufügen, im Gegensatz zu einem Widerspruch oder einer Kritik. KI-Bots nehmen somit auch die absurdesten Eingaben ihrer Nutzerinnen und Nutzer auf, als seien sie Nobelpreisverdächtig, loben auch widersprüchlichste Prompts.

Im April 2025 kulminierte das darin, dass sogar OpenAIs Geschäftsführer Sam Altman zugeben musste, dass ihr System durch die letzten Updates zu speichelleckerisch geworden war und man ein wenig gegensteuern müsste. Doch was nach außen als Problembeschreibung wahrgenommen werden könnte, war vor allem die Bestätigung, dass man den erfolgversprechendsten Pfad zu einer breitenwirksamen Akzeptanz von KI-Systemen gefunden hatte – einen Pfad, der nicht mehr auf den größten Nutzen, sondern zu einer emotionalen Qualität hinführen sollte.

Es muss aber nicht immer so subtil sein: Die Nutzung von Chatbots als direkter Ersatz für Beziehungen ist keineswegs nur eine Randerscheinung, sondern war schnell einer der zentralen Anwendungsfälle von KI-Systemen: Anbieter wie Character.ai haben ihr gesamtes Geschäftsmodell darauf aufgebaut, Menschen (vor allem Männern) Zugang zu virtuellen »Personen« oder »Avataren« zu vermieten, die meist als romantische Partnerin herhalten sollen. Und auch OpenAIs Sam Altman kündigte jüngst an, ab Dezember »erotica« für bestimmte Accounts zu erlauben – in der Hoffnung, dass die Vermietung virtueller romantischer Beziehungen die Bilanzen retten kann. Doch dabei handelt es sich um weit mehr als nur die Automatisierung von Sexwork.

Dieser Artikel ist nur mit Abo zugänglich. Logge Dich ein oder bestelle ein Abo.

Absenden

Du hast ein Abo, aber hast dich noch nicht registriert oder dein Passwort vergessen?
Klicke hier!