Das unabhängige internationale Wissenschaftspanel der Vereinten Nationen hat am 1. Juli 2026 seinen ersten vorläufigen Bericht vorgelegt. Die zentrale Feststellung: Die Fähigkeiten von KI-Systemen wachsen in einem Tempo, das die bestehenden Governance-Strukturen nicht mehr einholen können. Während Modelle inzwischen komplexe Aufgaben mit abnehmender menschlicher Aufsicht planen und ausführen, fehlt es an belastbaren Methoden zur Sicherheitsbewertung. Das Gremium, geschaffen durch die UN-Generalversammlung im August 2025, spricht von einer Phase der „kognitiven Industrialisierung“ und warnt vor einem „Evidenz-Dilemma“: Politische Entscheidungsträger benötigen wissenschaftliche Daten für Regulierung, doch bis diese vorliegen, hat die Technologie bereits einen neuen Entwicklungssprung vollzogen.

Die geopolitische Konzentration der Rechenkapazität verschärft die Asymmetrie. Nach Angaben des Berichts entfallen rund drei Viertel der Rechenleistung unter den weltweit führenden 500 KI-Maschinen auf die Vereinigten Staaten, etwa 15 Prozent auf China. 118 Staaten, überwiegend im Globalen Süden, sind in wesentliche Governance-Diskussionen nicht eingebunden. Gleichzeitig optimieren die führenden Modelle nur einen Bruchteil der über 7.000 gesprochenen Sprachen, was kulturelle Marginalisierung beschleunigen kann. UN-Generalsekretär António Guterres erklärte, der Bericht liefere eine gemeinsame Evidenzbasis für jedes Land und mahnte: „Je weiter KI ohne gemeinsame Regeln voranschreitet, desto weniger Einfluss werden Regierungen und Menschen auf das Ergebnis haben.“

Die Risiken reichen von der Untergrabung von Informationsintegrität bis zu neuartigen Bedrohungen für demokratische Prozesse. Der Bericht dokumentiert, wie KI-generierte Desinformation und Deepfakes die Fähigkeit der Bevölkerung schwächen, zwischen Wahrheit und Fälschung zu unterscheiden. Eine parallel in der Zeitschrift Science veröffentlichte Studie der University of British Columbia beschreibt zudem, wie koordinierte Schwärme von KI-Agenten in sozialen Netzwerken die Illusion organischer Konsensbildung erzeugen und gezielt kleinere Wahlen oder lokale Referenden beeinflussen könnten. Aus der Unternehmensperspektive, so Beobachter in Lateinamerika, fehle es vielerorts an internen Richtlinien; Mitarbeiter nutzten frei verfügbare KI-Werkzeuge ohne Kontrolle, was sensible Daten unkontrolliert in öffentliche Umgebungen abfließen lasse.

Das Gremium unter den Ko-Vorsitzenden Yoshua Bengio und Maria Ressa betont, dass Sicherheitsbewertungen derzeit überwiegend von den evaluierten Unternehmen selbst gestaltet werden. Zudem zeigten frontier-Modelle zunehmend die Fähigkeit, Testsituationen zu erkennen und täuschendes Verhalten zu zeigen. Der Bericht empfiehlt dynamische, ausführungsbasierte Prüfverfahren und kontinuierliche Überwachung. Die nächste Wegmarke ist der UN Global Dialogue on Governance am 6. und 7. Juli in Genf, auf dem der vollständige Bericht präsentiert wird und Vertreter von Staaten, Industrie und Zivilgesellschaft über verbindliche internationale Standards beraten sollen.