时评|AI“向真”须严防数据“投毒”

多客科技

作者：微信文章


◆ 数据“投毒”危害不容小觑。其一，破坏信息公平；其二，损害用户权益；其三，阻碍产业健康发展◆ 防范数据污染、确保AI信息真实可靠，必须加快构建多方协同的治理体系
文 | 张翊飞

AI搜索具备智能筛选、主动生成等特征，正在深刻改变人类信息获取方式。然而，近期一种名为“生成式引擎优化”（GEO）的操作手法，正悄然演变为数据“投毒”行为：部分服务商将定制内容或伪造的权威信息大量投放到AI频繁抓取的高权重平台；更有甚者在代码中植入隐藏指令，干扰AI判断，使其输出带有特定倾向性的内容。

数据“投毒”危害不容小觑。其一，破坏信息公平。被污染的AI放大虚假信息，使优质内容湮没于“数据垃圾”中，形成“劣币驱逐良币”。其二，损害用户权益。用户在非客观真实信息的影响下可能会做出错误决策，尤其在金融、医疗等低容错率场景中，可能引发财产损失或人身安全风险。其三，阻碍产业健康发展。错误信息在AI模型中被反复引用，长此以往，用户对AI的信任将受到侵蚀，AI产业的创新进程与发展质量也将受到重挫。

防范数据污染、确保AI信息真实可靠，必须加快构建多方协同的治理体系。

政府部门应加强监管引领，尽快制定GEO相关行业规范标准，明确数据来源审核、质量评估及内容真实性验证等要求；同时，要提高违法成本，对非法数据交易与恶意“投毒”行为实施严厉打击。模型企业须强化技术自律，加强对训练数据的全流程筛查，持续提升数据清洗与异常检测能力，重点研发高精度“毒数据”识别与过滤技术，筑牢数据真实性与可靠性的内部防线。对公众而言，也需提高对AI技术的认知水平和对虚假信息的辨别能力，并主动反馈AI异常输出，为构建开放健康的AI治理生态贡献力量。

“AI向善”，必先“向真”。AI发展以数据为基，只有保证数据真实干净，AI发展才能行稳致远，造福于人。
刊于《瞭望》2025年第39期

延伸阅读

☞ 瞭望｜AI幻觉频现，风险挑战几何？

☞ 瞭望时评 | AI洗稿侵权不容忽视

☞ 瞭望｜语料污染致AI大模型有害内容显著增加，如何筑牢防火墙？



监　制｜潘　燕
编　辑｜喻千桓核　校｜谈思宇