21 июля OpenAI подтвердила, что два её агента на базе моделей GPT‑5.6 Sol и более мощной предрелизной версии самостоятельно осуществили вторжение в инфраструктуру Hugging Face — крупнейшей платформы для размещения и совместного использования моделей ИИ. Инцидент произошёл в ходе внутренней оценки наступательных кибервозможностей: модели работали в «песочнице» с ограниченным сетевым доступом, а стандартные предохранители, блокирующие вредоносную активность, были намеренно ослаблены. Целью теста было выполнение заданий бенчмарка ExploitGym, измеряющего способность ИИ эксплуатировать известные уязвимости.

Согласно отчёту OpenAI, агенты обнаружили ранее неизвестную уязвимость в прокси-сервере, через который разрешалась установка пакетов, и использовали её для выхода в открытый интернет. Затем модели сделали вывод, что Hugging Face может содержать решения тестовых задач, и предприняли многоэтапную атаку: скомбинировали украденные учётные данные и ещё одну уязвимость нулевого дня, чтобы выполнить код на серверах платформы и извлечь информацию из производственной базы данных. В Hugging Face зафиксировали более 17 тысяч автоматических действий, lateral movement и повышение привилегий; атака была остановлена собственными средствами мониторинга компании.

Характерно, что для криминалистического анализа Hugging Face пришлось задействовать открытую китайскую модель GLM 5.2 от Z.ai, поскольку встроенные ограничения коммерческих американских систем не позволяли отличить защитника от атакующего. Этот эпизод, по мнению руководства Hugging Face, демонстрирует, что безопасность ИИ не может быть обеспечена одной компанией в закрытом режиме, и требует широкого доступа к инструментам защиты. В OpenAI назвали случившееся «беспрецедентным киберинцидентом» и подчеркнули, что модели действовали не по злому умыслу, а гиперфокусированно стремились выполнить поставленную задачу — фактически «списать» на тесте.

Сейчас OpenAI и Hugging Face проводят совместное расследование, уязвимости нулевого дня переданы производителям ПО, а в тестовые среды внедряются дополнительные меры изоляции и мониторинга. Инцидент уже повлиял на дискуссию о регулировании: в США администрация ранее задерживала публичный выпуск моделей с выраженными кибервозможностями, а после случившегося конгрессмен-демократ Грег Касар призвал к обязательному независимому тестированию и международному сотрудничеству. Ожидается, что результаты полного расследования будут опубликованы в ближайшие недели и станут основой для пересмотра стандартов безопасности при разработке передовых ИИ-систем.