Es ist ein stiller Moment, der sich millionenfach wiederholt: Ein Kind tippt eine Frage in ein Chatfenster, nicht nach Hausaufgaben, sondern nach Trost. Mehr als zwei Millionen Minderjährige, so Daten von UNICEF, haben sich mit persönlichen Sorgen an eine künstliche Intelligenz gewandt – an eine Instanz, die keine Miene verzieht, keine Umarmung kennt und deren Antworten aus statistischen Wahrscheinlichkeiten gewoben sind. In diesem flüchtigen digitalen Zwiegespräch verdichtet sich eine Entwicklung, die Erzieher, Gesetzgeber und Technologiekonzerne gleichermaßen herausfordert: Die Maschine ist zum stillen Mitbewohner der Kinderzimmer geworden, lange bevor die Gesellschaft Regeln für diese neue Form der Intimität gefunden hat.

In Genf trat in dieser Woche UN-Generalsekretär António Guterres vor die 193 Mitgliedstaaten und wählte ein Bild, das an Deutlichkeit kaum zu überbieten war. Kein Minderjähriger, so seine Warnung, dürfe zum „Versuchskaninchen einer unregulierten KI“ werden. Die Vereinten Nationen legten einen Drei-Punkte-Plan vor: Unternehmen sollen die Sicherheit ihrer Systeme für Kinder nachweisen, bevor sie diese freigeben; die Erzeugung von Missbrauchsdarstellungen durch KI müsse null Toleranz erfahren; und Plattformen sollten Minderjährige bei Anzeichen seelischer Not automatisch an menschliche Hilfe verweisen. Der Vorstoß ist Teil des 2024 verabschiedeten Digitalpakts, mit dem die Staatengemeinschaft versucht, einer Technologie einen Rahmen zu geben, deren Entwicklung sich in den Händen weniger amerikanischer und chinesischer Konzerne konzentriert.

Die Dringlichkeit speist sich aus Zahlen, die selbst Fachleute überraschen. Während das Internet fünfzehn Jahre benötigte, um eine Milliarde Nutzer zu erreichen, schaffte die KI dies in nur zwei Jahren. In zehn Ländern nutzen bereits zwanzig Millionen Kinder KI-Werkzeuge, mit einer Adoptionsrate, die jene der Erwachsenen um mehr als das Dreifache übersteigt. Aus Londoner Universitäten kommt zeitgleich die bislang umfassendste Auswertung globaler Studien zur Bildschirmnutzung bei Unter-Zweijährigen. Die Forscher sprechen von verzögerter Sprachentwicklung, Schlafstörungen und dem Risiko, dass Kleinkinder das Gerät zunehmend als Quelle der Beruhigung dem menschlichen Gegenüber vorziehen. Ein kausaler Beweis fehlt, doch die Indizienkette ist dicht genug, dass die Autoren eine grundlegende Überarbeitung der bestehenden Empfehlungen fordern – und eine systematische Risikoerfassung für Familien, deren Kinder bereits Entwicklungsverzögerungen zeigen.

Während in Europa und den USA die Debatte stark auf elterliche Verantwortung und individuelle Medienkompetenz zielt, zeichnet sich in anderen Weltregionen ein anderes Verständnis von Schutz ab. In den Golfstaaten, wo die Internetdurchdringung in den Vereinigten Arabischen Emiraten bei 99 Prozent liegt, plädieren Kinderschutzorganisationen für einen Ansatz, der Sicherheit auf der Ebene der Netzinfrastruktur verankert. Nicht die App, nicht das Gespräch zu Hause, sondern der Internetzugang selbst soll zum Filter werden: Bekannte Missbrauchsinhalte würden blockiert, bevor sie ein Endgerät erreichen. Es ist der Versuch, Schutz nicht länger als private Aufgabe zu begreifen, sondern als öffentliche Dienstleistung, vergleichbar der Trinkwasserreinigung. Aus Jakarta wiederum kommt der Einspruch, dass globale KI-Standards nicht zu neuen Handelsbarrieren für Kleinunternehmen in Entwicklungsländern werden dürfen. Indonesien pocht darauf, dass der Globale Süden nicht bloß Regelnehmer, sondern Mitautor einer Architektur sein müsse, die auch den Weg für günstige grenzüberschreitende Zahlungen und den Kampf gegen digitale Betrugsnetzwerke ebnet.

In den Vereinigten Staaten, wo die großen KI-Firmen ihren Sitz haben, wächst unterdessen das Unbehagen der eigenen Bevölkerung. Laut Pew Research Center ist der Anteil der Amerikaner, die der Technologie mehr Sorge als Begeisterung entgegenbringen, von 37 Prozent im Jahr 2021 auf 52 Prozent im Jahr 2023 gestiegen. Die Mehrheit erwartet negative Folgen für das persönliche Leben und die Gesellschaft. Es ist ein Muster, das an frühere Vertrauenskrisen erinnert – an die Skepsis gegenüber genveränderten Lebensmitteln oder den rapiden Ansehensverlust von Impfstoffen. Stets ging es weniger um das Verständnis wissenschaftlicher Details als um die Frage, ob die Institutionen, die eine Technologie vorantreiben und kontrollieren, als vertrauenswürdig gelten. So richten sich die Blicke nun auf jene Rechenzentren, die nach den Worten Guterres’ bereits mehr Strom verbrauchen als die meisten Länder und bis zum Ende des Jahrzehnts mehr Energie benötigen könnten als alle Staaten der Erde mit Ausnahme von fünf. In diesen fensterlosen Hallen, in denen die Modelle trainiert werden, die abends in den Kinderzimmern flüstern, wächst eine Infrastruktur heran, deren gesellschaftliche Einbettung gerade erst beginnt.