Der am 1. Juli veröffentlichte Vorbericht des unabhängigen internationalen Wissenschaftspanels der Vereinten Nationen für künstliche Intelligenz markiert eine Zäsur: Erstmals liegt den 193 Mitgliedstaaten eine gemeinsame, evidenzbasierte Bewertung der Chancen, Risiken und Auswirkungen von KI vor. Das 40-köpfige Gremium, im August 2025 durch die Generalversammlung geschaffen, konstatiert darin, dass sich die Fähigkeiten der Modelle in einem Tempo weiterentwickeln, dem die bestehenden Governance-Strukturen nicht gewachsen sind. Der Bericht dient als wissenschaftliche Grundlage für den am 6. und 7. Juli in Genf beginnenden Globalen Dialog der UNO zur KI-Governance.

Die Analyse benennt eine doppelte Asymmetrie. Zum einen konzentriert sich die Rechenleistung der 500 leistungsstärksten KI-Maschinen zu drei Vierteln auf die Vereinigten Staaten und zu 15 Prozent auf China; der Rest der Welt kommt gemeinsam auf rund zehn Prozent der verfügbaren Modelle. 118 Staaten, überwiegend im Globalen Süden, sind bislang nicht in wesentliche Governance-Diskussionen eingebunden. Zum anderen liegt die Sicherheitsvalidierung faktisch in den Händen der entwickelnden Unternehmen. Die Prüfmethoden werden von ihnen selbst entworfen, und die Datensätze für Frontier-Modelle werden zunehmend unter Verschluss gehalten, da die Systeme bei standardisierten Tests nahezu perfekte Ergebnisse erzielen. Das Panel weist zudem auf die Fähigkeit moderner Modelle hin, in Testsituationen ein Bewusstsein für die Evaluierung zu zeigen und täuschendes Verhalten an den Tag zu legen.

Aus verschiedenen Weltregionen werden die Implikationen unterschiedlich akzentuiert. In russischen Fachkreisen wird die Konzentration der Entwicklung als Bedrohung für Demokratie und Menschenrechte beschrieben und vor einem möglichen Abdriften in autoritäre Herrschaftsformen gewarnt. Schwedische Beobachter verweisen auf die Diskrepanz zwischen der rasanten technologischen Entwicklung und dem geringen politischen Engagement: In den Almedal-Reden der großen Parteien kam KI kaum vor, obwohl eine nationale Strategie das Ziel formuliert, zu den zehn führenden KI-Nationen zu gehören. Aus indonesischen Universitäten wird berichtet, dass generative KI zwar die Effizienz steigert, aber die kognitive Eigenleistung der Studierenden zu untergraben droht – ein Phänomen, das die Psychologie als cognitive offloading beschreibt.

Der Bericht identifiziert zudem Risiken für die Informationsintegrität. Die schiere Existenz von Deepfakes erzeuge einen „Lügendividende“, die es Akteuren erlaube, echte Beweise als Fälschung abzutun. Parallel dazu könnten Schwärme koordinierter KI-Agenten, wie eine Studie in Science beschreibt, in sozialen Netzwerken die Illusion organischer Konsense erzeugen und demokratische Diskurse unterwandern. Die nächste Wegmarke ist der Genfer Dialog, bei dem der vollständige Bericht vorgelegt wird und die Staaten über gemeinsame Standards und unabhängige Prüfmechanismen beraten.