Число атак с использованием дипфейков — синтезированных нейросетями изображений, голоса и видео — выросло на 180% за последний год, следует из отчёта LexisNexis Risk Solutions. Ожидается, что в текущем году будет проведено около 100 миллиардов проверок цифровой личности, и каждая сотая из них окажется неудачной из-за поддельного контента. Одновременно с этим появляются первые научные работы, фиксирующие снижение способности к запоминанию и критическому мышлению у людей, регулярно делегирующих интеллектуальные задачи чат-ботам.

Механизм в обоих случаях опирается на одну и ту же особенность генеративных моделей: способность создавать правдоподобный контент без участия человека в процессе рассуждения. В сфере безопасности злоумышленники используют дипфейки для обхода биометрической верификации — подделывают документы, мимику и голос, чтобы захватывать учётные записи и проводить несанкционированные платежи. В когнитивной плоскости, как показало британо-американское исследование с участием 1222 человек (сейчас находится на рецензировании), использование ИИ для решения арифметических задач и упражнений на понимание текста улучшало сиюминутный результат, но ухудшало долгосрочную успеваемость и ослабляло настойчивость при отсутствии доступа к помощнику.

Исследователи из Университета Карнеги — Меллона и французского Национального центра научных исследований (CNRS) описывают этот феномен как «когнитивное делегирование»: мозг, стремясь к экономии энергии, перестаёт поддерживать нейронные связи, которые не используются. В отличие от калькулятора, оставляющего процесс рассуждения пользователю, генеративный ИИ берёт на себя всю цепочку интеллектуальных операций. Параллельно эксперты по кибербезопасности фиксируют, что наиболее востребованными у мошенников становятся паспорта и водительские удостоверения, выданные в США, Великобритании, Германии и Франции. В Мексике, где число жалоб на цифровое мошенничество приближается к 16 миллионам случаев в год, регуляторы и бизнес призывают к ускоренному внедрению многофакторных биометрических систем, способных анализировать микродвижения мышц лица, отражение света и признаки вживления поддельных данных.

Производители ИИ-платформ уже реагируют на критику. OpenAI и Google внедрили «сократические» режимы, в которых чат-бот не выдаёт готовый ответ, а задаёт наводящие вопросы, стимулируя самостоятельное мышление. Microsoft, со своей стороны, встроила в Copilot предупреждения о риске ошибок и призывы проверять информацию. Однако, как признают в корпорации, риск чрезмерной когнитивной делегации остаётся реальным, особенно когда ИИ автоматизирует задачи, необходимые для развития профессиональных навыков. Следующим значимым рубежом станут результаты масштабных и продолжительных исследований влияния генеративного ИИ на мозг, а также эффективность новых протоколов биометрической верификации в условиях растущей изощрённости атак.