最近，知名演员吴越通过社交媒体等公开渠道，愤怒地揭露了一起利用AI技术进行恶意“魔改”其形象与声音，并制作仿冒视频用于带货的恶劣事件，这一事件迅速在网络上引发了广泛关注和热议。

10月18日凌晨时分，吴越在个人社交账号上发文，言辞激烈地怒斥道：“一觉醒来，惊觉有人竟利用AI技术肆意抓取我的影像，替自己行不义之事？这位所谓的'花姐'，你究竟骗了多少人的血汗钱？请立刻如数奉还！这种行为实在太过恶劣！！！”

10月19日，据徽声在线记者在微信平台上的搜索结果显示，相关涉事视频账号已无法被检索到。据多方媒体报道，该账号已被平台永久封禁，其发布的所有内容也已被彻底清空，无法再查看。

据深入调查了解，此前发布的视频中，“吴越”形象栩栩如生地拎着一款精华液出场，并煞有介事地宣称：“这个产品并非他们主动找我，而是我主动找他们的。因为我看了一些相关视频，起初觉得效果是否如此夸张存疑，但当我亲自收到并使用后，发现效果确实非常直观显著。”

从普通网友的视角来看，这些视频几乎达到了以假乱真的地步：AI技术通过深度合成吴越过往的公开影像素材，巧妙调整口型、替换台词、精准复刻声线，成功营造出她亲自推荐商品的带货场景。画面细节、语气节奏都处理得极为逼真，仅凭肉眼很难在第一时间识别出这些内容其实是AI生成的。

近年来，利用AI深度合成技术伪造名人形象、替换面容与声音的视频事件频发，屡禁不止。此前，演员温峥嵘也曾公开自曝，在刷视频时意外发现自己的形象被AI盗用于直播间带货，当她上前质问时，竟被对方秒速拉黑。温峥嵘在接受采访时无奈表示：“早在4月份之前，就有人说我在多个直播间出现，同一时段内，妆发各不相同，推销着不同的产品，却说着同样的话。”

无独有偶，霍启刚也曾在个人社交账号上发文，痛斥自己的形象遭到AI盗用。他表示：“他们提取了我的声线，利用我的样貌生成了短视频，但里面的内容却完全不是我的观点。连我同事都说，看了一段时间才发现原来是AI生成的，这样的信息实在太容易误导观众了。”

演员靳东也未能幸免，他的形象被不法分子仿冒后，专门用于针对中老年群体实施诈骗活动，让人防不胜防。靳东在接受采访时直言不讳：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这种行为的性质非常恶劣，我希望能建立更好的规则来遏制此类事件的发生。”

面对名人仿冒视频层出不穷的现状，监管层面也已果断出手。今年9月底，中央网信办印发通知，决定在全国范围内部署开展为期2个月的“清朗·整治短视频虚假人设乱象”专项行动。该专项行动的重点整治对象就包括通过AI合成虚假音视频等方式，假冒公众人物实施虚假代言、营销等侵权违法行为。网信部门还督促网站平台切实履行内容审核义务，不得借已标注虚构演绎、AI生成、营销、转载、个人观点等内容标签及无不良导向声明来规避网络生态治理相关要求，从源头上阻遏虚假人设类短视频的上传发布。

在司法层面，最高人民法院也发布了关于依法审理涉人工智能（AI）纠纷案件的意见，进一步明确了司法裁判规则，释放出坚持发展和安全并重的鲜明信号，以促推人工智能健康有序发展。

事实上，各大平台近半年来也已陆续升级了对AI内容的治理措施。今年3月，微信视频号曾发布关于加强AI生成内容治理的公告，表示平台已建立针对AI生成合成内容的常态化管控机制，对疑似AI生成合成内容添加标识提示，方便用户清晰辨识。

近期，抖音也上线了两项核心功能：一是AI内容标识功能，协助创作者主动打标；二是AI内容元数据标识读写功能，可识别并写入AI内容元数据信息，为内容溯源提供有力的技术支撑。

与此同时，快手也上线了AI生成合成内容标识和用户主动声明功能，在平台AI生成内容中添加“AI生成”显式标识及嵌入文件元数据的隐式标识，并对疑似AI内容进行显著提示，以提醒用户谨慎对待。