
生成式AI的双重冲击:认知依赖与深度伪造侵蚀信任基座
研究显示,长期将推理任务外包给AI会削弱记忆与批判性思维,而深度伪造攻击一年内激增180%,正从认知与信息可信度两个维度重塑社会风险。
生成式人工智能的快速渗透正在两个层面引发可测量的连锁反应。在认知领域,一项基于1222名参与者的英美联合研究(目前处于同行评审阶段)发现,使用AI工具解决算术或阅读理解问题虽能提升即时表现,但长期表现反而下降,且撤去AI后参与者坚持解题的意愿明显减弱。与此同时,网络安全机构LexisNexis Risk Solutions的数据显示,过去一年间,利用深度伪造技术发动的身份欺诈攻击增长了180%,预计今年全球将进行1000亿次身份核验,其中约1%会因深度伪造而失败。这两组数据勾勒出一个共同趋势:人类正在将越来越多的判断环节让渡给机器,而代价正在显现。
认知科学界将这一现象称为“认知委托”。法国国家科学研究中心(CNRS)研究员Johann Chevalère指出,人脑天然倾向于节省能量,日常中人们常采用快速直达核心的策略,避免深度处理信息所需的高昂认知成本,而生成式AI恰好强化了这一倾向。卡内基梅隆大学的Grace Liu进一步解释,与计算器不同,AI并非为特定任务设计,而是可介入任何智力推理活动,这使其剥夺学习机会的风险更为广泛。麻省理工学院2025年一项引发广泛讨论的研究也提示,使用生成式AI撰写学术论文的学生,其批判性思维表现较弱。这些发现均来自有限样本,研究者普遍强调,目前仍缺乏大规模、长周期的追踪研究来确认对大脑的实质影响。
在信息生态层面,深度伪造正从欺诈工具演变为信任体系的腐蚀剂。拉丁美洲的网络安全专家警告,犯罪分子利用高度仿真的伪造文件、视频和音频绕过企业身份验证,进而实施账户接管、非法支付和洗钱。墨西哥监管机构的数据显示,该国金融欺诈正以年均32%的速度增长,预计到2026年可能有近1600万人遭遇数字诈骗。印尼的公共讨论则引入“信息末日”和“说谎者红利”等概念——当任何真实视频都可能被指认为深度伪造时,作恶者反而获得了否认真实证据的便利,这对选举和公共话语构成直接威胁。
面对双重压力,不同地区的应对路径开始分化。北美和欧洲的AI开发商尝试嵌入“苏格拉底式”机制,如OpenAI的“学习模式”和微软Copilot中的主动风险提示,试图将用户从被动接受者转变为主动思考者。微软承认,过度认知委托的风险真实存在,尤其当AI被用于自动化那些本可培养能力的任务时。在拉美,墨西哥政府正推动扩大生物识别系统的应用,但专家指出,攻击者已发展出针对生物特征本身的复杂攻击手段,单纯增加技术层级并不足以弥合信任缺口。下一个值得关注的节点,是各国监管机构能否在产业推广与认知保护之间建立可验证的评估框架,以及学术界能否拿出基于长期追踪的神经认知数据,为政策设定提供依据。
| 大西洋/英语圈媒体 | 0.00 | neutral |
|---|---|---|
| 拉丁美洲媒体 | −0.40 | critical |
| 东南亚媒体 | −0.30 | critical |
It asks whether generative AI is eroding our mental faculties, based on preliminary scientific evidence.
The article uses methodical doubt, presenting scientific studies as the basis for an open question, without drawing definitive conclusions.
It does not mention cybersecurity risks and deepfake fraud, present in Latin American and Southeast Asian materials.
Generative AI threatens both our minds and our security: it is time to act with biometrics and regulation.
The article juxtaposes two distinct threats (cognitive and security) to create an overall sense of urgency, reinforced by concrete data and calls for intervention.
It does not delve into the social trust crisis caused by deepfakes, unlike the Southeast Asian material.
Deepfakes undermine social trust: artificial intelligence creates an indistinguishable reality, shaking the foundations of truth.
The article generalizes the deepfake problem into a systemic trust crisis, using language that evokes the loss of a fundamental social good.
It does not address the issue of individual cognitive decline, central to Atlantic and Latin American materials.