2026年10月18日

本文总字数：1050字，预计阅读时间约2分10秒

撰稿人 |徽声在线 吕倩

10月18日凌晨，知名演员吴越通过个人社交账号发布声明，揭露有不法分子利用AI技术伪造其形象进行直播带货，并公开要求涉事账号立即退还非法所得。这起事件再次将AI技术滥用问题推上舆论风口浪尖。

根据吴越团队公布的证据显示，名为"花姐美肤日记"的短视频账号通过三重造假手段实施诈骗：其一，使用"明星同款、吴越推荐"等诱导性文案；其二，通过AI语音克隆技术模仿吴越原声；其三，在直播画面中植入经过深度伪造的吴越形象。该账号单场直播观看量最高突破50万人次，涉及商品总销售额超200万元。

截至本报发稿前，记者在主流短视频平台检索发现，涉事账号已完成三次更名，现以"小刘打工日记"名义继续运营。更令人震惊的是，该账号历史视频库中除吴越外，还出现奥运冠军邓亚萍的深度伪造带货视频，形成规模化造假产业链。

这并非演艺界首例AI诈骗案件。据徽声在线不完全统计，今年以来已有17位公众人物遭遇类似侵权。演员温峥嵘团队向记者透露，其工作室曾创下单日举报53个假冒账号的纪录，但平台治理存在明显滞后性——被下架账号平均3.2小时后即通过更换马甲、调整伪造参数等方式重新上线。温峥嵘在接受采访时无奈表示："现在维权成本远高于侵权收益，技术造假者完全处于优势地位。"

技术溯源调查显示，当前AI换脸产业链已形成完整闭环。在某电商平台，记者以买家身份咨询发现，提供"全链条造假服务"的商家不在少数：基础套餐包含人脸替换、声音克隆服务，报价288元；进阶套餐增加视频动态捕捉、表情同步功能，收费888元；顶级套餐则提供实时互动直播技术支持，开价3888元/小时。某商家透露，其团队掌握的深度伪造技术可使视频真实度达到98.7%，普通用户根本无法辨别。

值得警惕的是，技术滥用风险正从公众人物向普通用户蔓延。网络安全机构最新报告显示，今年第二季度共监测到12.7万例个人影像被盗用案例，其中35%涉及老年群体。不法分子通过合成"虚拟亲人"形象，以医疗咨询、情感陪伴为名实施诈骗。更有个别账号利用AI生成"霸道总裁"人设，通过情感操控诱导中老年女性进行虚拟商品消费，单案最高涉案金额达47万元。

从法律维度审视，此类行为涉及多重侵权。北京师范大学法学院教授指出，根据《民法典》第1019条，未经肖像权人同意不得制作、使用、公开肖像权人的肖像；第1023条明确将声音权纳入人格权保护范畴。若造假行为伴随欺诈，则可能触犯《刑法》第266条诈骗罪。今年6月，北京互联网法院就审结全国首例AI声音侵权案，判令被告赔偿经济损失及合理支出共计15万元。

然而现行法律体系存在三重困境：其一，侵权成本与收益严重失衡，民事赔偿上限难以形成威慑；其二，平台责任界定模糊，多数平台仅履行"通知-删除"义务；其三，电子证据认定标准不统一，权利人维权平均耗时达8.2个月。对此，中国政法大学数据法治研究院建议，应建立AI生成内容标识制度，要求平台对疑似深度伪造内容添加显著标识，同时将平台审核责任前移至内容发布环节。

技术治理层面，瑞莱科技联合创始人萧子豪向徽声在线表示，其团队正在研发AI安全防护系统，通过在生成模型中植入数字水印、行为特征分析等技术手段，实现伪造内容溯源与实时拦截。该系统已在部分金融机构试点应用，可使AI诈骗识别准确率提升至92.6%。

这场技术与人性的博弈，亟需法律规范、技术防护、平台治理、公众教育的四方协同。正如国家网信办相关负责人所言："既要为技术创新留足发展空间，也要筑牢数字时代的伦理底线。"

内容编辑| 七三

：[email protected]

：[email protected]