你有没有刷到过类似的名人带货视频，误以为这是本人后又点击下单？其实，这类视频统统是AI做的。
不得不承认，历经这些年的技术升级，AI早就走过了“一眼假”的阶段，克隆声音、克隆长相几乎无所不能。而从媒体调查看，AI仿冒名人的乱象远不止带货。不乏不法分子借此仿冒直播，不仅可以诱骗粉丝打赏获利，还可将一个小白账号迅速打造成上万粉丝的账号，为后续牟利铺路……
这些以假乱真的声音是怎么来的？事实上，AI克隆早就形成了一条灰产。在电商平台搜索“AI配音”服务，几十上百元就能包教包会。即便是不掏钱，今天AI工具随处可见，免费教程比比皆是，技术门槛早就一降再降。此前有媒体调查，通过AI仿冒名人带的货，多是资质不明、厂商不清的产品，很多店铺都是新注册的账号。此番无下限的操作，不仅侵犯了名人的肖像权、声音权，也严重误导了消费者。
技术每前进一步，治理就要跟进一步。今年3月，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，将于2025年9月1日起施行，其中明确了服务提供者应当对生成合成内容添加显式标识。把住AI生成的标识关，正是为了让用户能一眼识别相关内容，免得被人牵着鼻子走。
有关部门不断亮剑，平台层面也得落实好监管责任。现在很多平台纷纷升级AI算法、部署AI生态，那么主动净化内容、清理垃圾，利用技术跑赢技术的步子更要跟上。加大力度建立健全对AI合成内容的审核机制，“用魔法打败魔法”，及时发现和拦截侵权、虚假、违法等不良内容，这是平台理应担起的责任和义务。
策划/撰稿/资源提供：毛颖颖、崔文佳、高源
出镜主持：海杨
摄制：邱凌
编辑：邱凌
更多热点速报、权威资讯、深度分析尽在北京日报App
通弘网提示：文章来自网络，不代表本站观点。
