警惕“AI投毒”,守护网络健康

新闻

作者：微信文章


“专家指出洗发水含致癌物，长期使用会致癌”“7月1日起老年人坐火车买票可以打折”“我孩子生了重病急需捐款”……AI飞速发展，在给人们带来便利的同时，也会生成一些看似合理但实际上错误、虚构的信息。更严重的是，AI还可能会因为被“投毒”而出错。

AI也会投毒？该怎么防？我们应该如何识破“投毒陷阱”？



借此机会笔者给诸位科普一下，AI投毒是一种新型网络安全威胁，指恶意行为者通过向AI训练数据中注入虚假、有害或有偏差的数据，或修改模型文件，来干扰AI模型的正常运行，使其产生错误输出或出现安全漏洞。如果把AI比喻成食物的话，语料就相当于原材料，权重就是加工工艺。不论是原材料不新鲜，还是加工工艺出现了偏差，最终生产出来的食物就会有问题。“AI投毒”除了会出现不良信息、虚假信息外，还会造成更严重的后果。在医疗领域，被“投毒”的AI可能误诊病情；在金融领域，被篡改的算法可能引发交易风险；在自动驾驶领域，恶意数据可能让车辆在关键时刻“失明”。

是不是很可怕？是不是必须防？



一方面相关职能部门要加强管理，对误导公众，发布虚假新闻、不实信息等行为进行打击，净化网络环境。另一方面，广大网民要使用正规平台和企业提供的AI工具，不盲信AI生成的结果，注意保护个人信息，不传播不良信息。



“没有网络安全就没有国家安全，就没有经济社会稳定运行，广大人民群众利益也难以得到保障。”时代发展的大势不可阻挡，当AI深度嵌入我们的生活，我们更需要擦亮眼睛，少做“博眼球、拉流量、变现谋利”的“发财事”，共同守护好网络安全。
声明：图片来自网络截图