
安全审查叠加成本失控,AI行业从急速扩张进入治理与约束新阶段
美国政府罕见出手限制OpenAI与Anthropic最新模型发布,同时企业开始严控AI引发的成本飙升,标志着全球人工智能发展从技术冲刺转向更务实的监管与效益校准期。
美国政府对前沿AI模型的发布实施前所未有的干预:OpenAI最新推出的GPT-5.6系列仅限政府确认的合作伙伴有限预览,而Anthropic在发布其最强公开模型Fable 5后,也被勒令移除所有外国公民的访问权限,最终被迫彻底下架。这一转变源于总统行政命令,要求企业提前30天将尖端模型提交政府审查,实质上建立了针对高能力AI的准许可制度。分析人士警告,缺乏明确安全标准的审查可能延迟技术扩散,并有利于中国等在AI竞赛中持续投入的国家。
与此同时,产业界正从“鼓励员工多用AI”急剧转向“计算每一次使用的成本”。循环工程(Loop Engineering)理念推动AI代理自动规划、验证、重试,虽提升了任务自动化水平,却导致Token消耗呈指数级增长。埃森哲高管在内部会议中坦言,AI支出已对成本结构产生实质影响,且极难预测。公司近期开始阻止员工将宝贵的AI额度耗费在PDF转简报等低价值任务上,与早前“不使用AI恐影响晋升”的导向形成鲜明反差。
在医疗和心理健康等高风险领域,AI扩张同样面临信任与认知退化双重挑战。OpenAI称基于GPT-5.5 Instant的医疗模型错误率下降71%,并经60国逾260名医师审查,但外界质疑其评估缺乏独立第三方验证,与真实临床场景存在差距。认知科学研究则揭示更深层隐忧:麻省理工2023年研究发现,使用AI工具的编程人员虽完成任务更快,但诊断新错误的能力下降;斯坦福大学同年记录到学生倾向接受AI以自信口吻输出的错误答案。神经科学界指出,心智能力遵循“用进废退”规律,当决策被持续外包给系统,人类的批判性思维可能萎缩。
从强制安全审查到企业主动收紧预算,再到高利害领域对可靠性的重新审视,AI产业正进入一个多线程的治理新周期。后续值得关注的是,美国政府的模型审查机制是否会走向透明化与标准化,以及企业在“循环工程”等新范式中如何设计停机条件,在创新与成本之间建立可持续的平衡。