
AI虚假网站超1.5万个,深度伪造识别训练初显成效
法国调查揭露AI内容农场已形成规模化灰色产业,澳大利亚研究证实公众经训练可大幅提升识别能力,全球信息生态面临系统性重构压力。
一项由法国记者主导的调查首次量化了生成式AI对信息生态的渗透规模:至少1.5万个伪装成新闻媒体的虚假网站被识别,其中多数并非以传播虚假信息为目的,而是通过批量生产AI生成或改写的内容,从Google Discover等推荐算法中获取流量并赚取广告费。调查显示,约75%的此类网站由不到300个运营商控制,个别运营者曾在三个月内获利超过200万美元。这一发现将AI内容农场从零星案例推向了系统性灰色产业的层面。
虚假网站的运作机制高度依赖搜索引擎优化(SEO)与平台推荐逻辑。它们利用AI以极低成本制造海量内容,甚至虚构记者署名,部分虚假作者单日“发稿”量可达500篇。与此同时,深度伪造技术也在持续进化。澳大利亚国立大学与悉尼新南威尔士大学的研究团队通过一项训练实验发现,让参与者关注面部对称性、比例、表情自然度等六项感知特征,而非寻找单一破绽,可使识别AI生成人脸的能力显著提升,高表现者几乎每次都能准确辨别。但研究者也指出,AI生成内容正变得“过于完美”,传统视觉破绽正在消失,识别越来越依赖整体印象。
不同地区对AI冲击的回应呈现出碎片化特征。在欧洲,意大利传播监管机构AGCOM的AI委员会成员在“LaRipartenza”论坛上呼吁超越“末日论”与“狂热论”的二元叙事,建立连接职业、文化、伦理与监管的系统性视角。南美方面,阿根廷舆论在讨论农业AI应用时,援引哈耶克“致命的自负”概念,警告仓促监管可能扼杀创新,主张让市场在产权与合同保障下自行演化。巴西记者联合会则直接批评AI虚假网站对专业新闻构成“极度不公平的竞争”,指出其以趋近于零的成本劫持了公共注意力。
对中国和亚洲而言,这一趋势意味着内容安全与信息主权面临更复杂的挑战。中国已出台《互联网信息服务深度合成管理规定》,要求对AI生成内容进行显著标识,但跨境虚假信息流的治理仍缺乏国际协调。下一个值得关注的节点是,欧盟《人工智能法案》对生成内容透明度的要求将逐步落地,而法国调查所揭示的规模可能促使Google等平台进一步调整推荐算法,这些动作将直接影响全球内容农场的商业模式。
| 欧洲大陆媒体 | +0.10 | neutral |
|---|---|---|
| 大西洋/英语圈媒体 | +0.30 | aligned |
| 拉丁美洲媒体 | −0.40 | critical |
Continental Europe calls for a systemic approach to AI, balancing innovation and regulation.
It uses the authority of a university professor and regulatory committee member to lend credibility to a balanced view.
It does not mention the discovery of 15,000 fake sites or the deepfake detection research, focusing instead on a general debate.
La ricerca australiana dimostra che il pubblico può essere addestrato a riconoscere i deepfake, offrendo una soluzione pratica.
Presenta la ricerca come una risposta concreta a un problema crescente, usando la citazione di un esperto per legittimare l'ottimismo.
Non menziona l'inchiesta francese sui 15.000 siti falsi né il dibattito regolatorio europeo.
The French investigation reveals the enormous scale of AI-generated disinformation, warning of the threat.
It uses concrete numbers (15,000 sites) and the figure of the investigative journalist to create urgency and credibility.
It does not mention the Australian research on deepfake detection training or the European regulatory debate.