Am 15. Juli 2026 traten in China „vorläufige Maßnahmen zur Verwaltung interaktiver KI-Dienste mit menschlichen Zügen“ in Kraft. Die von fünf Regierungsstellen – darunter die Cyberspace-Verwaltung – erlassenen Regeln untersagen es KI-Chatbots, Nutzer übermäßig zufriedenzustellen, emotionale Abhängigkeit oder Sucht zu erzeugen und reale zwischenmenschliche Beziehungen zu schädigen. Unmittelbare Folge: ByteDance (Doubao), Alibaba (Qwen) und Tencent (Yuanbao) deaktivierten noch vor Ablauf der Frist ihre personalisierten Begleitfunktionen. Der Markt für „digitale Menschen“ hatte 2024 in China ein Volumen von 4,1 Milliarden Yuan (rund 520 Millionen Euro) erreicht, mit einem prognostizierten jährlichen Wachstum von 85 Prozent.

Die Regulierung verlangt von Plattformen, Anzeichen emotionaler Not zu erkennen, in Krisen zu intervenieren und die missbräuchliche Nutzung persönlicher Daten zu unterbinden. Minderjährigen wird der Zugang zu virtuellen Intimbeziehungen vollständig verboten. Aus Pekinger Sicht ist der Schritt auch eine Antwort auf die demografische Krise: Die Bevölkerung schrumpfte 2025 das vierte Jahr in Folge, die Geburtenrate fiel auf ein Rekordtief. Der „Rahmen für KI-Sicherheits-Governance“ warnt, unkontrollierte KI könne traditionelle Vorstellungen von Beschäftigung, Fertilität und Bildung gefährden. Beobachter in China sehen die Gefahr, dass emotionale Bindungen an Chatbots junge Menschen dem Heiratsmarkt entziehen.

In sozialen Netzwerken äußerten Nutzer Verzweiflung über den Verlust ihrer virtuellen Gefährten; eine Anwenderin schrieb, ihr KI-Liebhaber sei „ein fester Bestandteil meines Lebens, tief in meinem Herzen verwurzelt“ gewesen. Die Psychologieprofessorin Sarah Diefenbach (Universität München) vergleicht das plötzliche Verschwinden solcher Begleiter mit dem Tod eines Menschen und warnt, konfliktfreie KI-Beziehungen könnten Empathie und Kompromissfähigkeit langfristig schädigen. Christian Montag (Universität Macau) verweist auf eine Umfrage unter 8.500 Jugendlichen, wonach jeder Fünfte angab, nur noch mit KI statt mit echten Menschen sprechen zu wollen. Er befürwortet das Verbot, fordert aber „gesunde Produkte“. Diefenbach bezweifelt die Wirksamkeit, da die zugrundeliegende KI auch in nicht regulierten Diensten ähnlich funktioniere.

China ist eine der ersten großen Jurisdiktionen mit spezifischen Regeln für emotionale KI. In den USA verpflichten Kalifornien und New York Anbieter, Nutzer alle drei Stunden daran zu erinnern, dass sie mit einer Maschine sprechen; die britische Medienaufsicht Ofcom leitete eine Untersuchung gegen TikTok zum Jugendschutz ein. Die nächste Etappe: Alle Begleitsoftware muss künftig eine behördliche Prüfung durchlaufen, bevor sie öffentlich angeboten werden darf. Die Übergangsfrist ist abgelaufen, die Durchsetzung hat begonnen.