全红婵、孙颖莎、王楚钦等奥运冠军都在卖鸡蛋？原来是AI克隆其声音并截取其他视频片段后造假。继AI“换脸”后免息配资公司，AI“盗声”再度席卷社交平台。
面对AI技术的滥用，业内专家建议，内容发布者和AI服务提供者应压实提供标识义务，内容平台也应积极拦截审核可疑视频内容，从技术上提高真伪鉴别能力。
冠军“带货” 声音皆为克隆
“我是你们的婵宝，今天有事请大家帮忙，婵妹就想帮助妈妈，让家里生活过得好一点，今天让妈妈先拿出300单老家的土鸡蛋给大家放福利……”近日，短视频平台出现多个“全红婵带货”视频，画面中，除少量赛后采访片段外，其余均为养鸡场场景，但声音听起来很像全红婵。
这些视频附带的土鸡蛋链接已售出超2.1万单，大量消费者表示是出于对奥运冠军的信任下单。“拍了，婵宝我支持你！”“刚下完一单，谢谢为国争光”。
“我妹妹在训练基地，她怎么卖鸡蛋？那是AI声音，全平台一大堆这样的切片。”近日，全红婵的哥哥全进华在直播中回应。全进华透露，此前家人声音已被AI克隆卖蜂蜜，“之前卖蜂蜜的都还在告，现在告都告不过来”。
孙颖莎和王楚钦的声音近日也遭遇类似盗取仿冒，其采访画面被篡改，配音虚构“我是莎莎，我为婵宝家农家土鸡蛋代言”“我是王楚钦，昨天收到婵妹私信，说他们家土鸡蛋大丰收”等情节。
除了奥运冠军外，AI“盗声”也在批量制造明星带货。在某短剧平台插播的面膜广告中，“刘涛”“舒淇”“张柏芝”等争相喊出夸张台词。一名互联网安全专家表示，这一广告高度疑似AI克隆声音后进行内容篡改。记者对比发现，部分片段实为截取自其他采访。
“盗声”教程 竟在网上售卖
名人声音被AI频频克隆，一方面是因为名人音源丰富，比较容易获取，加上商业价值高，更容易被侵权；另一方面，是随着大模型技术的发展，AI语音合成的门槛降低。据统计，仅6月以来，行业就有多款一站式AI语音合成软件发布。
上述互联网安全专家告诉记者，AI克隆声音的原理，是通过深度学习算法，从采集的声音样本中提取频率、音色、声调等关键特征，再将这些特征记录进行合成。如果配上其他视频画面，就可以完成整套移花接木。
记者调查发现，电商平台上有大量AI声音克隆工具教程以0.5元至400元不等的价格售卖，一份售价4.88元标榜“1分钟素材克隆完美声音”的教程声称，只需要上传声音素材、输入模拟文本、选择声音模型再点击转化即可，转化后的声音还能在同一软件上随意剪切拼接。
还有人直接提供明星声音代克隆服务。“明星声音音色克隆，发给我你的文案，什么内容都可以。”网友“莫妮卡”表示，国内明星可以任意挑选，只需要提供明星姓名和想要听到的内容就行，“100字以内4.99元，100字以上根据内容长度收费。”
多方协同 治理技术滥用
9月1日，国家网信办等多部门印发的《人工智能生成合成内容标识办法》将正式施行，其中明确要求，对AI生成合成的内容必须添加标识，任何组织和个人不得恶意删除、篡改、伪造、隐匿AI生成合成内容标识。
“仿冒名人声音带货，内容发布者当属第一责任人。”工信部信息通信经济专家委员会委员盘和林表示，此类行为既侵犯被模仿者的名誉权，也构成对消费者的欺诈。对于内容平台来说，有义务在视频审核的时候检查标识是否存在；AI服务提供商也有义务按照新办法的规定，提供生成内容标识功能。
“对AI生成视频的治理，是当前行业面临的一个重要难题。”奇安信集团行业安全研究中心主任裴智勇表示，根治此类乱象仍需多方协同发力。
从技术路径看，裴智勇建议，内容平台和AI服务提供商应建立传播量预警机制，对短时间内爆发的可疑视频启动真伪鉴别，并将AI合成内容识别纳入常态化监测。同时免息配资公司，在法律层面，建立追责机制，对造成社会负面影响的AI生成内容进行处罚，并探索针对公众人物的网络肖像权保护制度，禁止使用特定人群肖像合成AI视频，从源头阻断恶意合成。
天天优配提示：文章来自网络，不代表本站观点。
热点资讯
