“AI变声带货” 你能辨出真假吗？

记者在短视频平台搜索发现，不少非节目官方所发布的切片里夹藏大量“私货”，视频主通过AI技术更换专家语音和字幕，将涉及体重管理、祛湿等保健类商品经过包装成功实现“名人带货”。

加句台词

综艺切片包装出明星代言

“上当受骗了！没想到视频切片里‘专家推荐说辞’居然是AI造假。”00后小高愤怒地将购买的减肥产品扔进垃圾桶。

小高告诉记者，自己之所以心动，源于看见《国医少年志》视频切片里推荐了这款减肥产品，结果未见效果反而被包装营销暗算。“原以为有专家背书的商品不会差，结果发现这些说辞居然是AI工具模仿语音篡改形成，专家根本就没说过这些话。”

随着《一路繁花》《国医少年志》等综艺节目出圈，减肥、养生成为话题，但是短视频平台上不少节目切片却开始“变味”，借着类似节目的噱头暗中推荐保健商品，甚至宣称“绝对有效”。

实际上，这些视频切片大多为移花接木，内容看似是节目片段，但专家话术、字幕等细节却是商家以AI技术进行篡改，进而植入品牌和带货。

移花接木的招数也出现在《一路繁花》的视频切片中。刘晓庆在聚餐时吃鱼的片段，一款名为“诗诺千君贴”的商品被植入，并在字幕中显示“提高代谢水平”“年轻人可以试试”，同样实现明星带货的效果。

AI悄然篡改视频内容，模糊了视频真假的边界，也迷惑了不少消费者。记者注意到，上当的网友在社交平台上吐槽“纯智商税”“节目组推销劣质商品”等，质疑产品的同时也将矛头直指节目组。

对此，《国医少年志》官方发文表示，部分社交媒体上营销账号未经授权擅自剪辑节目图片、视频实施产品推广行为，歪曲了节目内容。节目组从未授权任何第三方账号利用节目内容宣传相关的任何产品，“任何非我司官方账号或非节目原片所发布的我司及与我司合作生产相关产品的信息均为虚假信息。”

AI变声“零门槛”

仅需几元可随意模仿

一个节目片段就能假冒名人带货，再次暴露了AI合成声音滥用的问题。

“这些商品利用人们对身体健康的关注心态，通过AI篡改台词和字幕，以‘专业’‘权威’的噱头让消费者信以为真，进而陷入销售陷阱。”电商从业者蒋凌说。

记者在社交平台上搜索发现多个AI合成声音软件的广告和下载渠道，价格也仅需几元到数十元。不少广告更是标榜“可随意模仿明星语音”“通过一句话就可以克隆出任何声音”等噱头。

为调查所需，记者下载了一款在GitHub上开源的声音克隆软件。体验过程中，记者上传了一段由本人播报的3分钟录音，在经过AI模型训练后，成功得到了这一声音的模型文件。此后只需输入任意文字，软件即可实现这一声音的口播内容。

记者发现，AI生成的语音模型连录制者在发音时的吐字习惯也能模仿。对于一些较短的语句，很难识别出这是机器合成的语音。相比之下，生成长语句时，则会出现瑕疵。尽管如此，只要多次生成，再从中挑选合成效果较好的语句，也能以假乱真。

社交平台上不少公众人物的声音已被AI克隆，其中“如何模仿雷军说话”“让明星给你播新闻”的视频软件教学和推广并不难寻。

记者注意到，这些软件操作流程颇为简单，使用者仅需对着镜头录制一段话，数秒钟后这些话通过AI技术就能变成某位名人的声音。值得注意的是，类似软件录入名人声音时没有任何授权证明，这意味着这些人根本不知道自己的声音已被冒用。

模仿靳东声音

诈骗老年人近百万元

实际上，早前就有利用软件修改的明星靳东声音与“粉丝”互动，诈骗老年人近百万元。另外利用AI模仿国家传染病医学中心主任张文宏的声音吐槽热门话题，也曾引发关注。

一位AI领域从业者告诉记者，AI能够克隆声音源于其能通过深度学习算法，从采集的声音样本中提取频率、音色、声调等关键特征，再将这些特征记录进行合成，“《一路繁花》《国医少年志》等综艺节目中所出现的品牌植入，正是通过类似手段。”

“无论网友将AI模拟人声用于恶搞以追逐流量，还是克隆名人声音用以带货，都对声音‘原主’和消费者带来不良影响。发布者除了获得流量曝光和广告收入外，不乏假借身份传播虚假消息，从而实现诈骗目的。”上述人士表示。

围猎中老年人

“AI换脸拟声”亟待治理

隐形的卖货方式以及真真假假的剧情，让不熟悉AI技术的中老年人很难辨别，也就成了被围猎的对象。

多位电商从业者接受采访时坦言，此类商家的目标群体主要为追求身体健康的人群，其中又以中老年人群体为主。通过打造权威专家人设发布“时事点评”“健康养生”等内容，以吸引销售目标的关注，最终再以视频流量分成和橱窗带货的模式变现。

“父母听信‘专家视频’买回一堆保健品，甚至还到处推荐身边朋友购买。”一位网友吐槽称，家中长辈对于AI不了解，认为视频内容和说辞都是真的，甚至当家里人再三解释视频是伪造时，也会固执地坚信没有上当，“根本劝不住，AI语音骗局对老年人简直就是降维打击。”

值得注意的是，类似商品不乏资质存疑、厂商成谜的情况。记者搜索一款同样由AI语音植入的益生菌品牌时注意到，产品链接跳转至商城页面后出现多款宣传封面、产品包装、文案说辞几乎一样的商品，生产厂商却并不相同，很难让人判断出真伪。

无论对于中老年人还是年轻网友而言，AI合成语音比早前的AI换脸视频更难辨别，稍不注意就容易中招。

>>法院判例

未经权利人许可擅自使用声音构成侵权

2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。法院认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。

今年两会期间，全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”，并表示他本人也曾是“AI换脸拟声”的“受害者”。

同样，全国政协委员靳东也回应了AI换脸导致的诈骗问题，并表示“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣，希望能建立更好的规则。”

河南泽槿律师事务所主任付建告诉记者，通过AI技术冒用他人声音的行为属于违法行为。根据《中华人民共和国民法典》，对自然人声音的保护参照适用肖像权保护的有关规定。而商家利用AI篡改专家说辞进行直播卖货既侵犯了专家有关声音的人格权益，也可能损害了专家的名誉权以及肖像权。同时，这种打广告的行为也涉及虚假广告宣传，如果所卖商品没有宣传效果还构成消费者欺诈，违反了《反不正当竞争法》和《消费者权益保护法》有关规定，有可能面临罚款、吊销营业执照等行政责任以及相应的民事赔偿责任，情节严重的还涉及刑事犯罪。

“平台有权依据《互联网信息服务管理办法》《电子商务法》以及平台规则履行监管义务，对违法商家采取封禁账号、限流等处理措施。如果未及时采取合理措施导致损害扩大的，对扩大部分与不法商家承担连带责任。”付建说。 据新京报