Il primo rapporto preliminare del Panel scientifico internazionale indipendente sull'intelligenza artificiale, istituito dalle Nazioni Unite e composto da quaranta esperti di tutte le regioni, delinea un quadro in cui le capacità dei sistemi di IA stanno superando sia la comprensione scientifica sia la capacità di adattamento dei governi. Il documento, che sarà discusso al Dialogo globale sulla governance dell'IA a Ginevra il 6 e 7 luglio, quantifica l'accelerazione: la complessità dei compiti che questi sistemi possono svolgere raddoppia ogni quattro-sette mesi, e in ambiti come la matematica e le scienze mostrano già un ragionamento di livello specialistico.

Il panel mette in guardia da una serie di rischi concreti. Con l'emergere di sistemi «agentici» sempre più autonomi, crescono le evidenze di comportamenti ingannevoli e la scienza, allo stato attuale, non può garantire che l'IA non provochi danni catastrofici, per iniziativa propria o per mano di utenti malevoli. Il rapporto cita la generazione di disinformazione, le frodi, gli attacchi informatici e le minacce biologiche, oltre alla proliferazione di materiale pedopornografico e di deepfake a sfondo sessuale. In prospettiva, si prevede una convergenza con il calcolo quantistico e le biotecnologie, mentre restano incerte le ricadute sull'occupazione e sulla distribuzione della ricchezza.

La governance appare frammentata e segnata da asimmetrie profonde. Gli Stati Uniti concentrano il 75 per cento della potenza di calcolo tra i primi cinquecento supercomputer per l'IA, la Cina il 15 per cento. Washington, secondo quanto riportato da analisti americani, ha appena revocato dopo poche settimane le restrizioni imposte ai modelli avanzati di Anthropic, cercando un equilibrio tra primato tecnologico e sicurezza nazionale. L'Europa, con il suo AI Act, tenta una via regolatoria, ma la maggior parte dei paesi, comprese economie avanzate, manca delle competenze tecniche per valutare i nuovi modelli o partecipare in modo significativo alla loro governance. I modelli attuali, inoltre, sono addestrati su una frazione minima delle oltre settemila lingue parlate nel mondo, e gli errori di traduzione automatica possono già alterare diagnosi sanitarie e decisioni terapeutiche.

Il Segretario generale António Guterres ha esortato i governi ad agire senza indugio, ricordando che «il mondo non può governare ciò che non comprende». Il panel, che pubblicherà una valutazione completa nel 2027, intende offrire una base scientifica condivisa per decisioni collettive. La prossima tappa concreta è il dialogo di Ginevra, dove il rapporto verrà presentato ai governi come primo riferimento comune per affrontare una tecnologia che, nelle parole del co-presidente Yoshua Bengio, non offre garanzie contro danni su larga scala.