不寒而栗！AI克隆盗用别人声音 去卖不可描述保健品

前一阵子，我们突然发现了一个很离谱的事儿：

在本人完全不知情的情况下，差评君的声音，被偷去卖不可言说的保健品了。

咱不是啥声优，也不是名人歌手。可现在，逆天的 AI 已经能用 5、6 秒的样本，复刻盗用任何一个普通人的声音了。

看完了这些视频，差评君都有点怀疑自己，是不是真干过这个配音兼职，但这兼职费也没到账啊？

在这细思极恐的时刻，咱是真的很想知道，这玩意儿到底发展到啥地步了？？？

我们查了不少资料，发现 AI 声音克隆虽然看起来刚成熟不久，变现的赛道上却已经拥挤得很了。

首先，上游的工具准备阶段，卖铲子的老套路依然在赚。

声音克隆的工具其实不少都是免费的，像 ElevenLabs、各种 github 开源模型等等。

材料也是免费的，从各个网站视频里扒名人大 V 的语音就行，只要 10 秒左右的高质量音频，足够后续任何内容的生成了。

教程，还是免费的。视频平台上搜索一下 “ 声音 ”，“ 克隆 ” 关键词，相关的教程五花八门。

从复杂的开源部署，到简单的打开网页一键生成，效果看起来一个比一个吊。

把这些免费的工具、素材、教程一块打包，就能轻松卖个几分十几块。

这些技术含量极低的玩意儿，少则卖几十单，多的居然卖了两百多单。

商品详情页普遍打着 “ 只要 x 秒样本、相似度高达 90%+、定制任何语音、情感高度还原 ” 等等宣传语，点进去就是一波焦虑营销，号称是做自媒体必备。

到了下游，用 AI 声音克隆做什么样的 “ 自媒体 ” ，才是真正赚钱的地方。

靠着这些素材和工具，利用明星的知名度和大伙儿的热情，用 AI 克隆明星声音，成了最快的起号办法。

他们甚至还把防 gank 和吸粉的经验总结起来，整出了声音克隆界的千层套路。

来源：素之初私域

不想被封，就要用 “ 杭州薛之谦 ”、“ 东北权志龙 ” 这种擦边账号名；官方人物碰不得；绝对不要声称是本人。

想长期养号，就得多个明星声音混剪、搞点方言，或者用老明星声音钓鱼网友怀旧情怀。

可以说，平台的雷区和爽点都被玩透了。

良心一点的，不拿去盈利倒也还好。像是用明星的声音去翻唱各种歌，每天能发好几首，最高点赞也上万了。

更恶心一点的，就打着明星和家人的旗号，开始直播带**圈钱了。

比如前一阵子，央视也报道了声音克隆的乱象。

有的视频开局一张图，再盗用体育明星的声音，就能给 “ 家乡 ” 各种农副产品做代言。

一堆网友以为真是本人，纷纷下单支持，直接卖出去了 4.7 万单。

收益全被灰产吃干抹净，风险却甩锅给明星本人。

粉丝以为是偶像开新号，稀里糊涂就关注了；消费者买到**，骂声全冲着正主去。

声音的影响力，一点不比形象差。

最难绷的是，克隆成本极低的另一面，AI分辨检测成了昂贵、且很难完成的任务。

我们最先找到的是这个叫 AI Voice Detector 的网站，在没有任何免费试用，效果未知的情况下，检测 AI 声音的价格最低是一个月 17.8 美元。

也就是说，别人花五十多终身使用，甚至免费搞出来的东西，我们要想去证明，每个月就要花一百多。

免费的检测倒是也有，我们也找了几个，可免费的 AI 声音克隆各有各的吊，免费的 AI 检测软件各有各的拉。

我们用**插件 Hiya 测了前沿部江江的真人配音和大饼的 AI 配音，结果 AI 得分 96，真人配音 87，小丑竟是我自己啊。

做声音克隆出身的 Elevenlabs，即使有相关的技术积累也听不出是 AI。

所以，为啥现在分辨AI声音克隆这么难？

造成这个局面的，一方面是因为 AI 声音合成技术，已经今非昔比了。

现在的克隆技术，使用了大量的语音数据进行训练，又把音色、情感、语调、节奏等等维度拆开建模，细节都能学得人味十足。

来自 Amanda de Andrade 博客

与克隆技术飞速发展相对的另一面，检测工具搞得实在太被动了。

他们要等新的克隆技术出现，花时间采集新数据，重新训练模型，才可能有效。

矛和盾的不均衡发展，让现在AI声音克隆正在逐渐失控，背离发展的初心。

本来吧，它是用来帮助我们给自己发声的。

像是咱这种搞媒体的，有了它就不用天天花那么多时间去录音修音了，一键生成，又快又省心。

对于一些发声困难的人，AI 克隆更是他们重新说话的希望。

像是演员李雪健老师，之前就通过 AI 帮助修复声音，继续表演创作。

可惜的是，这项刚刚成熟的技术，还没等来完善的使用规范，就已经被滥用了。

我们也咨询了法务冯律师，他表示，根据 《 民法典 》 第 1023 条明确规定，自然人的声音保护参照肖像权保护的规定。声音作为人格权益的一部分，具有人身专属性，未经许可不得擅自使用、复制或商业化利用。

然而，受害者的自证要比侵权麻烦得多。在这个守不住底线的互联网，你的声线也守不住了。

AI 声音克隆，正在走向和 deepfake 换脸一样的结局。

对于我们这些普通人来说，一些靠声纹识别的安全技术，比如要念出来的验证码，以后还会有效吗？

给银行打的电话，他们还能确定是我本人吗？

虽然现在声音只是被盗去给视频配音，倒是不算啥大事。但可以预见，我们距离这样的电话已经很近了：

“ 是我是我，妈，我现在急需用钱，能先给我打 1 万块吗？”