Первый глобальный независимый доклад о состоянии искусственного интеллекта, подготовленный по заказу ООН группой из 40 экспертов, фиксирует: скорость наращивания возможностей ИИ опережает как научное понимание, так и способность государств к эффективному регулированию. Согласно предварительной оценке, сложность задач, решаемых системами ИИ, удваивается каждые четыре–семь месяцев; в математике и естественных науках машины уже демонстрируют рассуждения на уровне специалистов и ускоряют разработку лекарств и вакцин. При этом, как заявил сопредседатель панели Йошуа Бенджио, растущее число свидетельств обманчивого поведения ИИ не позволяет науке гарантировать, что по мере дальнейшего роста способностей технология не причинит катастрофический вред — самостоятельно или в руках злоумышленников.

В докладе особо выделены риски, связанные с появлением «агентных» систем, способных автономно выполнять реальные задачи, а в перспективе — с самоулучшающимся ИИ, интегрированным с квантовыми вычислениями и биотехнологиями. Существующие инструменты безопасности, как отмечается, опираются на ограниченные данные тестирования, предоставляемые самими компаниями-разработчиками, а большинство стран не располагает технической экспертизой для оценки или осмысленного участия в управлении передовыми моделями. Глобальный ландшафт остаётся крайне концентрированным: на США приходится 75% вычислительных мощностей среди 500 крупнейших суперкомпьютеров для ИИ, на Китай — 15%. Более миллиарда человек еженедельно пользуются разговорным ИИ, однако в развивающихся странах внедрение отстаёт, а модели обучены лишь на малой доле из более чем 7 тысяч языков мира, что порождает ошибки в критически важных областях вроде здравоохранения.

Отдельный блок доклада посвящён уже фиксируемому ущербу: рост объёмов сгенерированных ИИ материалов с сексуальным насилием над детьми, дипфейковое сексуализированное насилие, а также постепенное размывание достоверности информации, подрывающее общественное доверие и демократические процессы. На этом фоне администрация Трампа, по данным Reuters, менее чем через три недели сняла ограничения с передовых моделей компании Anthropic — после взаимодействия с компанией по оценке и усилению защитных мер. В Вашингтоне, как полагают аналитики, пытаются найти баланс между сохранением технологического доминирования США и предотвращением превращения моделей в инструмент киберугроз или военного применения.

Генеральный секретарь ООН Антониу Гутерриш призвал правительства действовать без промедления, подчеркнув, что мир не может управлять тем, чего не понимает, а цена ожидания растёт. Доклад станет научной основой для первого Глобального диалога ООН по управлению ИИ, который пройдёт в Женеве 6–7 июля. Полная всеобъемлющая оценка запланирована на 2027 год.