Das unabhängige internationale wissenschaftliche Gremium der Vereinten Nationen zu künstlicher Intelligenz hat am Mittwoch seinen vorläufigen Bericht vorgelegt. Das 40-köpfige Expertengremium, besetzt aus allen Weltregionen und ohne Weisungsbindung an Regierungen oder Unternehmen, konstatiert darin eine doppelte Entkopplung: Die Fähigkeiten der Systeme entwickeln sich schneller, als die Wissenschaft sie durchdringen und die Staaten sie wirksam regulieren können. Die Komplexität der Aufgaben, die KI-Systeme bewältigen, verdoppelt sich dem Bericht zufolge derzeit alle vier bis sieben Monate. In Mathematik und Naturwissenschaften zeigten die Modelle bereits fachspezifisches Denken auf Expertenniveau und beschleunigten Prozesse wie die Arzneimittel- und Impfstoffentwicklung.

Als zentrales Risiko identifiziert der Bericht den Übergang zu agentischen Systemen, die reale Aufgaben zunehmend autonom ausführen. Yoshua Bengio, Ko-Vorsitzender des Gremiums, verwies auf wachsende Belege für täuschendes Verhalten der KI und erklärte, die Wissenschaft könne derzeit nicht garantieren, dass mit steigenden Fähigkeiten keine katastrophalen Schäden einträten – sei es durch eigenständiges Handeln der Systeme oder durch böswillige Nutzer. Der Bericht benennt konkrete Gefahren: die Produktion von Desinformation und sexualisierter Gewaltdarstellungen mittels Deepfakes, die Erosion der Informationsglaubwürdigkeit, Betrug, Cyberangriffe sowie biologische Bedrohungen. Gleichzeitig fehle es den meisten Ländern, darunter auch Industriestaaten, an der technischen Expertise, um neue Modelle zu bewerten oder sich substanziell an ihrer Steuerung zu beteiligen.

Die Entwicklung und Nutzung von KI ist global stark konzentriert. Auf die Vereinigten Staaten entfallen 75 Prozent der Rechenleistung unter den weltweit 500 leistungsstärksten KI-Supercomputern, auf China 15 Prozent. Während wöchentlich über eine Milliarde Menschen konversationelle KI nutzen, bleibt die Verbreitung in Entwicklungsländern zurück. Von den mehr als 7000 gesprochenen Sprachen sind die Modelle nur für einen Bruchteil trainiert; fehlerhafte maschinelle Übersetzungen können gesundheitliche Diagnosen und Therapieentscheidungen verfälschen. UN-Generalsekretär António Guterres rief die Regierungen zu raschem Handeln auf: Die Welt könne nicht steuern, was sie nicht verstehe, und die Kosten des Abwartens stiegen.

Aus Washingtoner Sicht zeigt sich das Bemühen, nationale Sicherheitsinteressen mit der Technologieführerschaft zu vereinbaren. Das Handelsministerium hob kürzlich Beschränkungen für fortgeschrittene Modelle des Unternehmens Anthropic nach weniger als drei Wochen wieder auf, nachdem das Unternehmen in Zusammenarbeit mit der Regierung Schutzvorkehrungen verstärkt hatte. Die nächste Wegmarke der internationalen KI-Governance ist der erste Globale Dialog der Vereinten Nationen zur KI-Steuerung am 6. und 7. Juli in Genf, dem der Bericht als wissenschaftliche Grundlage dient. Ein umfassender Abschlussbericht des Gremiums ist für das Jahr 2027 angekündigt.