小螺号｜AI冒充“明星家属”，技术越逼真责任越不能“隐身”

“我是冯巩的前妻”“我是刘欢的爱人”“我是赵丽蓉的儿子”……镜头前，这些“明星家属”声情并茂地讲述半生操劳、身体亏虚，话锋一转，便端出一款九蒸九晒的“黄精五黑粉”。近日，新京报贝壳财经的调查揭开了这层温情面纱：所谓“明星家属”，实为AI批量生成的数字人，出厂价五、六元一盒的五黑粉，挂上链接卖到约30元。 AI时代，造假也“升级”了。过去假冒名人，好歹要找个长得像的人出镜，成本高、易穿帮。如今，只需几分钟、几条指令，就能批量生成以假乱真的“明星家属”视频。 更值得警惕的是，这种造假不再赤裸裸地叫卖，而是披上了情感外衣，先讲明星幕后故事，再聊中老年人关心的“头发白得快、晚上睡不好”，最后把产品悄悄塞进故事里。故事是真的感人，产品是真的普通，身份是真的假。这种“情感铺垫+养生焦虑+隐蔽带货”的新面孔，比传统虚假广告更具迷惑性，也更难被普通消费者识破。 隐蔽性还体现在链条的拉长上。“冯巩前妻”AI视频的发布人可能只是交了998元“入伙费”的兼职者，购买链接藏在另一个账号的商品橱窗里，供货方是员工数为0的公司。AI视频制作方、账号运营方、商品提供方、平台方，各居一环，环环相扣，又环环可以推诿。生产商一句“AI视频跟我们无关，公司只负责供货”，撇清关系的同时也暴露了链条越长、责任越容易被稀释的现实。 但链条长，不等于责任可以“隐身”。五黑粉本质是普通食品谷物粉，吃不出大问题，最多“没效果”，售后风险低，这让生产方和渠道方更有恃无恐。可“没效果”背后，是消费者被欺骗的感情和被收割的钱包，是明星名誉被冒用的侵权，更是食品安全和市场秩序被侵蚀的隐患。 这类乱象屡禁不止，核心原因是成本收益严重不对等，AI把仿冒内容的生产门槛压到几乎为零，违法收益却远高于事后追责成本；账号“打一枪换一个地方”，监管和维权跑不过内容扩散；一些平台仍是“不告不理”，需要权利人本人或家属举报才下架。更讽刺的是，连“收徒”的运营团队都在提醒学员“平台抓得严，不推荐做AI明星家属视频了”，说明平台并非没有能力识别，只是治理的主动性还不够。 AI技术本身是中性的，它可以用来辅助创作，也可以被用来批量造假、收割信任。关键在于，当造假的花样越来越逼真、带货的面孔越来越隐蔽，治理的脚步必须跟上。平台不能只满足于标注“疑似AI创作”“含AI生成内容”等，对显而易见的深度伪造带货内容，应主动识别、及时下架，清理违规主体，让技术真正造福于民，而非造“负”于民。 技术越逼真，责任越不能“隐身”。AI时代的带货江湖，需要的不是更聪明的造假者，而是更清醒的平台、更负责的企业和更有效的监管。否则，今天被收割的是“冯巩前妻”的观众，明天就可能是任何一个普通人的信任。 藻知科技评论员 程靓 编辑 王进雨 校对 柳宝庆 特别