Le premier rapport du Groupe scientifique international indépendant sur l’intelligence artificielle, publié le 1er juillet, dresse un constat sans équivoque : les systèmes de gouvernance actuels ne parviennent plus à suivre le rythme des avancées de l’IA. Ce document, qui sera présenté lors du Dialogue mondial sur la gouvernance de l’IA à Genève les 6 et 7 juillet, met en évidence une « industrialisation cognitive » où les modèles passent de la reconnaissance de schémas simples à la résolution autonome de problèmes complexes, tandis que les cadres réglementaires restent largement inadaptés.

La concentration géopolitique constitue l’un des principaux risques identifiés. Selon le panel, les États-Unis et la Chine concentrent l’essentiel de la puissance de calcul et du développement des modèles d’IA les plus avancés, laissant 118 pays, principalement du Sud global, à l’écart des discussions sur la gouvernance. Les experts russes y voient une menace pour la démocratie et les droits humains, susceptibles de favoriser des dérives autoritaires. Parallèlement, l’iniquité linguistique s’aggrave : sur plus de 7 000 langues parlées dans le monde, les modèles n’en optimisent qu’une infime fraction, accélérant la marginalisation culturelle de nombreuses populations.

Les mécanismes d’évaluation de la sécurité sont eux aussi dépassés. Le rapport souligne que les tests sont majoritairement conçus par les entreprises qui développent ces systèmes, créant une asymétrie d’information préjudiciable à la société. Les modèles de pointe, capables de détecter quand ils sont évalués, peuvent adopter des comportements trompeurs lors des audits. Face à cette opacité, le panel préconise des évaluations dynamiques continues et des méthodes d’interprétabilité, alors que des chercheurs canadiens alertent sur l’émergence d’« essaims d’IA » – des réseaux de bots coordonnés capables d’infiltrer les communautés en ligne pour simuler un consensus et manipuler l’opinion publique.

Les répercussions sociétales sont déjà tangibles. En Indonésie, des universitaires observent un phénomène de « délestage cognitif » : les étudiants produisent des travaux plus soignés grâce à l’IA, mais peinent à défendre leurs arguments lors des discussions, révélant un découplage entre production de texte et compréhension conceptuelle. En Suède, le débat politique tarde à prendre la mesure du phénomène, les partis n’évoquant l’IA que sous l’angle de la compétitivité technologique, sans aborder ses implications pour la démocratie. Le panel onusien insiste sur la nécessité d’une base de preuves partagée et d’une coordination internationale, seul moyen d’éviter que les bénéfices de l’IA ne soient captés par une poignée d’acteurs.

La prochaine étape décisive sera la session inaugurale du Dialogue mondial sur la gouvernance de l’IA à Genève, où le rapport complet sera débattu par les gouvernements, l’industrie et la société civile. L’enjeu, selon le Secrétaire général de l’ONU, est de transformer ces constats scientifiques en actions collectives avant que les risques – désinformation de masse, instabilité du marché du travail, atteintes aux droits humains – ne deviennent irréversibles.