“AI霸总”为带货、骗财围猎中老年女性,“共度余生、找个疼你的人”为常见话术,老太关注40位AI霸总从早刷到晚,代表委员建议严厉打击

我爱免费

作者：微信文章


“姐姐，明天我就要走了，心里很舍不得你”“姐姐，你摸着良心说，我到底帅不帅”……类似的台词不断从姜小星奶奶的手机中传出，一度让姜小星觉得“脑壳疼”。

但姜小星的奶奶却乐此不疲。“帅，你太帅了。”姜小星奶奶对着手机屏幕里的“AI霸总”，隔空比出“点赞”的手势。姜小星说，奶奶关注了三四十位画风雷同的“AI霸总”。这样的视频，奶奶可以从早刷到晚。

这类“AI霸总”实质上就是AI数字人。在视频中，其通常身处富丽堂皇的会客厅、办公室，展现出儒雅、深情款款的形象。这类视频通过添加“帅气大叔”“黄昏恋”等标签，被精准推送给缺乏情感关照的中老年女性。这些“AI霸总”瞄准老年群体，背后藏着带货、诈骗等多重陷阱。日前，全国人大代表李秋建议，为推动银发经济高质量发展，应严打欺诈、诱导老年人下单等行为。

老年人对于“AI霸总”的痴迷程度不止停留在“养眼”。《中国新闻周刊》梳理发现，在这类视频中，“AI霸总”往往会释放出求偶信号，“共度余生”“找个疼你的人”等都是常见的话术。

令姜小星苦恼的是，尽管已向奶奶多次解释视频的公共属性，但每当奶奶刷到“AI霸总”视频，她总会认为那些话术是“AI霸总”向自己释放的专属爱意。一个月前，奶奶还提到要去外地与一位“AI霸总”“奔现”，被家人及时劝止。

北京红飒律师事务所主任律师黄启瑞今年年初也接触过有关“AI霸总”的咨询案例。咨询人的母亲从去年10月起开始接触“AI霸总”视频，后来与一位“AI霸总”私信交谈甚久，进而被推销保健品。

黄启瑞对《中国新闻周刊》指出，这类视频本质是利用AI合成的霸总形象，给中老年女性提供情绪价值，然后激发这一群体非理性消费或投资行为，进而实现骗财、敛财。
胡可欣，公众号：中国新闻网“霸总”围猎中老年女性，人大代表急了

记者在短视频平台检索发现，为积累私域流量，部分“AI霸总”账号会建立专属粉丝群。记者进入了4个百人以上的粉丝群，这些群聊消息更新频率很快，“AI霸总”每天都会在粉丝群中分享直播链接，诸多中老年女性在其中踊跃互动。

记者点进一个名为“建国情感”的“AI霸总”直播间后发现，该直播正打着““AI霸总”给你送礼物”的名义，推销一款售价为59.9元的“武财神招财令挂件”，商品销量已达3.9万件。

这类以带货为目的的“AI霸总”视频，通常由商家外包给专业视频制作团队生产。1分钟以内的视频，代做1个50元；代做50个，每个视频40元；代做100个视频则单价降到30元。

记者调查还发现，不少“AI霸总”背后由婚恋机构运作。在某短视频平台，记者给几位“AI霸总”点了关注后，私信即刻弹出对方发来的链接卡，声称“点击即可获得哥哥的联系方式”。记者以中老年女性身份提出想获得视频中“AI霸总”的电话，对方回复：“姐姐，我们是大哥的红娘，你要在我们这边花980元办会员，才能跟大哥联系。”

为了进一步了解这类“AI霸总”视频的生成、发布流程，日前，记者用生成式AI创作平台先后制作了3个10秒的“AI霸总”视频。在某平台，记者上传“AI霸总”角色图片后，系统自动识别匹配了“成熟总裁”的音色。设定完说话内容、动作描述，6小时后，记者得到了一个像模像样的“AI霸总”视频。另一App生成的“AI霸总”视频，耗时短至2—3小时。
胡可欣，公众号：中国新闻网“霸总”围猎中老年女性，人大代表急了

记者生成的“AI霸总”视频。图/截图

随后，记者在某短视频平台注册了一个全新账号，用以测试制作好的3个“AI霸总”视频。不到18小时，账号收获了500多位粉丝，3个视频中，浏览量最高的达1.2万，较低的也已超过5000。同时，记者收到了中老年女性的大量评论、私信，有的在私信中向记者透露了生日、年龄等信息。

黄启瑞指出，因相信“AI霸总”视频遭遇财产损害，维权困难的原因在于当前生成式AI的技术门槛较低。一旦被骗，受害者因缺乏取证技术及工具，难以独立完成证据收集，证据链无法形成闭环。这种情况下，如果委托律师维权，又要承受高昂的维权成本。
胡可欣，公众号：中国新闻网“霸总”围猎中老年女性，人大代表急了

依据国家网信办2022年11月颁布的《互联网信息服务深度合成管理规定》，深度合成服务提供者提供人脸生成、姿态操控等人物图像、视频生成编辑服务时，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
胡可欣，公众号：中国新闻网“霸总”围猎中老年女性，人大代表急了

田丰告诉《中国新闻周刊》，当前，仍存在一些不法团队通过对国外的开源工具进行修改，使生成的视频产品缺乏AI标识。黄启瑞认为，在这一问题上，短视频平台应加强对视频内容的监测过滤。

田丰建议，AI视频生成模型应建立负样本库。“希望这类模型去预训练一些负面样本，使模型能第一时间识别诈骗、黑灰产等用途的不良素材和指令，直接从源头上阻止不良视频的生成。”
胡可欣，公众号：中国新闻网“霸总”围猎中老年女性，人大代表急了

（文中人物均为化名）

来源：中国新闻周刊
编辑：甄甜责任编辑：李雁