10月18日凌晨时分，演员吴越在社交平台发布的一则动态，如同一颗石子投入平静湖面，激起层层涟漪。毫无预兆，没有丝毫客套，她直接点名一个叫“花姐”的账号，言辞间满是愤怒：“究竟是谁在利用AI技术，肆意抓取他人形象替自己作恶？这位‘花姐’，你骗了多少人的辛苦钱？请如数归还，这种行为实在太恶劣了！”寥寥几句，却如同一把利刃，撕开了利用AI换脸与语音克隆技术伪造明星带货、疯狂收割粉丝钱包的黑色产业链的伪装。

此次事件的导火索，是一个名为“花姐”的网络账号发布的一段护肤品推广视频。该视频以“明星同款、吴越推荐”为极具诱惑力的噱头。视频里，“吴越”的面容和声音几乎达到了以假乱真的程度，音频中“她”信誓旦旦地说：“这个产品可不是他们来找我，是我主动找他们的……效果那真的是非常直观。”甚至还抛出“今天我直接送，闭着眼睛用、闭着眼睛囤，孕妇妈妈都能放心使用”这样夸张且极具煽动性的话术。

然而，令人震惊的是，这一切都并非吴越本人的真实行为。画面是借助AI换脸技术合成的，声音也是通过AI拟声克隆出来的，所谓的“推荐”从始至终都是一场经过精心策划的骗局。值得注意的是，虽然该视频下方标注了“作者提示：含AI生成内容”，但这行小字在假冒明星背书所带来的巨大误导和伤害面前，显得如此微不足道，根本无法起到应有的警示作用。

这条造假视频的末尾，还出现了“邓亚萍”相关的带货画面。仔细翻看该账号，会发现多条打着“乒乓球冠军邓亚萍推荐”旗号的广告视频赫然在列。同一个账号，采用同一套作案手法，仅仅换一张脸、换一个名字，就继续肆无忌惮地收割消费者的信任。这也就不难理解，吴越愤怒地质问“这位‘花姐’到底骗了多少人的钱”时，为何语气如此沉重。

吴越的遭遇并非个例。据徽声在线了解，演员温峥嵘此前也遭遇过类似的AI盗播事件。她本人曾亲自进入假直播间进行质问，没想到却被对方秒速拉黑，无奈之下只能感叹“我现在就很难证明我是我”。从吴越到温峥嵘，这类骗局的背后逻辑高度一致：不法分子盗用名人的公信力，以“明星同款”“名人推荐”为诱饵，推销那些低成本甚至是不合格的三无商品，而最终为这些商品买单的，是那些出于对明星信任而下单的粉丝和广大消费者。

近年来，AI深度合成名人形象、进行换脸换声的乱象频繁出现，而且屡禁不止。随着技术的不断发展，技术门槛逐渐降低，造假成本也在不断缩水。与之形成鲜明对比的是，维权成本却高得离谱。明星本人要证明“我不是我”，这谈何容易；而对于普通消费者来说，更是难以分辨屏幕那头究竟是真实的明星本人，还是冰冷的算法生成的虚拟形象。

当“含AI生成内容”这样的小字沦为造假者的免责挡箭牌时，平台审核与监管追责就必须紧跟技术的步伐，不能让技术成为不法分子逃避责任的工具。

回到吴越那条凌晨发布的微博，其中最刺眼的当属“肆意抓人替自己作恶”这几个字。AI本身并没有善恶之分，但操纵AI的人却有着明确的善恶观念。当一张脸、一把声音可以被随意抓取、拼接、贩卖时，受损的不仅仅是明星的肖像权和名誉权，更是每一个普通人在面对屏幕时所付出的那份信任。这份信任一旦被破坏，想要重新建立将无比艰难。