作者 | 刘三金编辑 | 章鱼
人不能两次踏进同一条河流，但却可以同时出现在三场直播间。
这是演员温峥嵘的亲身遭遇。
不久前，网友们发现了一件怪事：温峥嵘仿佛有了分身术，同时在好几个直播间里露面，讲解着不同的产品。
镜头里的她，妆发服装不同，但长相和声音却一模一样。
起初，大家以为这不过是常见的录播或假直播套路，但仔细一看才发现事情比想象的更严重。
屏幕里滔滔不绝的身影，根本不是温峥嵘本人。
甚至都不是一个真人，而是用 AI 制造的数字主播。
不法商家盗用了她的容貌和声音，批量制造分身带货。其逼真程度，足以让普通人难辨真假。
在许多人的印象里，AI 的以假乱真还停留在仅供娱乐的粗糙阶段，但技术早已在暗中迭代到令人毛骨悚然的地步。
以前，一个人要费力证明"我是我"；
而现在，则要拼命辩解"为何我不是我"。
科技带给了我们便利，也让事情朝着更复杂的方向发展。
如果一个人的脸和声音可以被随意盗用，那么任何人都可能成为一个被随意操控的工具。
在这场洪流中，我们每个人都无法置身事外。
顶流明星，正被 AI 批量「盗脸」
温峥嵘对这段遭遇的讲述，极具魔幻色彩——
拍完戏回到家后，她照常刷着手机，却突然看到"自己"正在直播，于是下意识留言质问：
"你是温峥嵘那我是谁？"
荒诞的是，评论刚发出去，她就被"温峥嵘"拉黑了。
黑色幽默般的故事，甚至衍生了一个热搜词条：# 温峥嵘被 AI 温峥嵘拉黑 #。
事实上，这场换脸闹剧已经持续了很长时间。
早在今年 4 月，温峥嵘就曾公开打假，称许多山寨号不断更换名字和 ID 来冒充她，提醒粉丝们谨慎。温峥嵘团队公开表示已向不法商家发送律师函，可侵权行为屡禁不止。
粉丝无奈发帖称：一天举报 18 个假账号，根本举报不过来。
实际上不止温峥嵘，好多名人都遭遇过 AI 换脸。
在假温峥嵘的直播中，AI 生成的"刘涛""张柏芝"都来站台，一起捧场寒暄。
演员刘晓庆在综艺里吃鱼的镜头，被嫁接成了减肥产品广告，还被安排了各种鸡汤演讲。
逼得刘晓庆本人不得不公开质问："画面是我、声音很像我，但不是我，这是怎么做到的？"
央视主持人李梓萌，被伪装在直播间推销鱼油，背景板还贴上了"央视推荐"。
甚至连德高望重的张伯礼院士，也被 AI 安排去一众综艺明星面前为"国货"站台。
10 月的英伟达 GPU 技术大会上，黄仁勋登台没几分钟，一个假黄仁勋就同步开启了直播，宣传加密货币。
结果，吸引到的观众比真黄仁勋还多。
在 AI 明星批量直播的同时，幕后操纵者还展现出了惊人的产品思维：
古天乐就该代言游戏，杨幂天生适合带货衣服，张馨予则要去代言减肥药 ......
于是你能看到野生的"杨幂"出没在服装直播间，山寨的"古天乐"在游戏广告里砍着传奇。
〓 直播卖衣服的假杨幂
骗子们主打一个谁火就换谁的脸。
前段时间，某平台随处可见"全红婵"卖土蜂蜜：" 500 单土蜂蜜 16 块 9 发两斤，叔叔阿姨可以下单。"
光是"全红婵"一个人还不够，全家齐上阵，叔叔妈妈爸爸都来卖蜂蜜。
有的号还会精心编造剧本，声称"婵宝想让家里的生活更好一点，今天拿出老家 300 单土鸡蛋送福利。"
爆火的"莎头"组合也来助兴，要给大家发婵妹的土鸡蛋。
从明星、主持人再到奥运冠军，AI 换脸几乎把所有能变现的流量都算计到了。
除此之外，换脸不止用来带货，造谣更是信手拈来。
薛凯琪被编造恋情，霉霉被生成虚假色情图片，雷军在互联网上骂人……最后都逼得当事人不得不出来辟谣。
随着 AI 换脸侵权波及的范围越来越大，互联网呼吁监管的声浪也越来越高。
被"假靳东"冒充行骗的靳东，在两会上提交了 AI 技术与网络平台立法的建议。
霉霉事件引起了美国白宫的关注，表态国会应该采取立法行动来监管 AI。
然而，道高一尺、魔高一丈。
明星们忙着和 AI 制造的自己割席的同时，AI 盗脸的魔爪早已伸向普通人。
Ai 换脸的第一批受害者
维权失败
活在聚光灯下的名人尚有团队庇护，可以发声辟谣。而当 AI 换脸的恶意对准普通人，后果则更加不堪。
其中最恶劣的莫过于青岛保时捷销冠被造黄谣事件。
牟女士作为一年卖出 170 辆保时捷的销冠，因业务能力突出被媒体采访。
节目播出后，网络上突然流传出牟女士的虚假不雅视频。牟女士的社交媒体随即被大量的私信骚扰淹没："看视频来的，找你买车有服务吗？"
数字时代，每个人随手发出的照片都可能被有心人保存起来，用于其他目的。
据《每日经济新闻》报道，小雅的朋友在朋友圈刷到了一个复刻版的小雅，相似度高达 100%，就"头发丝都一模一样"。
小雅和朋友反复对比，发现有人盗用了小雅公开发布的照片，用 AI 生图技术"克隆"了她。虽然没有造成恶劣影响，但也足以让小雅胆战心惊：
"谁知道对方拿着照片做了什么呢？"
当技术被用来作恶，人性的幽暗便有了最锋利的武器。
看别人挣钱太多？那就把她移花接木到不雅视频。
没能和暗恋女生在一起？那就 AI 换脸进行报复 ......
只要一个人暴露了自己的长相，就有可能被 AI 换脸。
去年，韩国 Deepfake 事件震惊全球——犯罪者通过付费群组上传女性照片伪造色情内容，进而广泛传播。
受害者涵盖未成年人、教师、军人、明星等各个年龄和职业的人群，甚至还有以女性家人为目标的"家庭群组""近亲群组"。
也就是说，许多女性根本不知道自己什么时候就被盯上，而制作 AI 换脸的人可能是身边的朋友、同学，也有可能是完全不认识的陌生人。
这种威胁的恐怖之处就在于它的无孔不入与随机性。
当恶意从熟悉或陌生的角落袭来，受害者甚至来不及辩解，就已坠入深渊。
被 AI 换脸的网友表示不敢再前往人群，日常生活遭受严重干扰。
Deepfake 受害者的心理创伤植入日常，只要收到短信通知或匿名电话的铃声，就会心跳加速，陷入恐惧。
除了肖像权侵害、名誉损害，AI 换脸还被广泛用于诈骗。
与早期粗劣的诈骗方式不同，骗子们如今早就准备好了高度定制化专属剧本。
一位母亲会收到"女儿"的多条语音，催着缴纳报名费，焦急之下立即向骗子账户转账 3.5 万元；
经常联系的"朋友"会给你打来视频哭着借钱，几秒钟就骗走几十万 ......
以前我们总认为，只有老年人才容易被骗，但当技术逼真到足以乱真，每个人都可能成为下一个猎物。
焦虑的年轻人寻求精神慰藉，骗子就利用 AI 换脸技术伪造"通灵视频"，以此骗取信任和钱财。
打工人需要时常开会，骗子就伪装成总部高管召开跨国视频会议，一通指令当场就能骗走 2 亿港元。
在 AI 面前，眼见为实的古老经验正在失效。我们必须要接受：
眼见不再为实，耳听也可能为虚。
而这一切之所以变得如此猖狂 ，根源在于作恶的门槛，已经低到令人发指。
AI 换脸属于深度伪造技术（Deepfake）。利用深度学习算法，"喂"给 AI 目标人物的图像和视频数据，机器就能学会捕捉并模仿一个人的面部特征——小到说话时的口型变化、细微的肌肉牵动，大到眼神和神态，都能模拟得惟妙惟肖。
随后，AI 再将这些动态特征嫁接或替换到另一个人的视频上，喜怒哀乐、一颦一笑都无比自然。
前面提到的假黄仁勋直播，就成功欺骗了数千人，连美国电台 CNBC 都没有辨认出来。
在技术的早期阶段，制作逼真的伪造视频还需要高深的专业知识和计算资源。然而，随着技术的狂飙突进，大量看似用户友好、甚至傻瓜式的应用程序和平台涌现，使得深度伪造技术彻底平民化、普及化。
正如一名不法分子所说："只要能看到脸的，都能换。"
巨大的便利让深度伪造技术在法律和伦理的真空地带野蛮生长。那么也不禁让人想问：
面对猖獗的 AI 换脸，法律为何一再失效？
AI换脸「黑产」曝光：
463元就能定制一个你
坦白说，在全球范围内，AI 换脸都是一个棘手的难题。
主要原因在于技术发展与法律滞后。
技术与监管之间的关系，就像一场永无休止的猫鼠游戏：
一旦检测技术攻破了当前的伪造技术，后者就会迅速进化，使检测技术永远处于滞后状态。
想要追溯源头和找证据也没那么简单。
数字世界里，一条视频的生成和扩散速度快到惊人 ，而且每一次转发、每一次分享，都在不断模糊最初的作恶痕迹，让追踪变得无从下手。
另一个难以回避的困境是：法律的制定总需要严谨的流程和漫长的时间，这与 AI 技术的瞬息万变形成了鲜明对比。
韩国 Deepfake 调查人员需要获得法院批准，才能用秘密身份进入深度伪造聊天室。
当监管人员终于发现线索，并费尽周折等到法院批准后，这个聊天室往往已经消失在了互联网的汪洋大海之中。
跑得太快、藏得太深、程序太慢，是 AI 换脸难以遏制的三大症结。
另一方面，AI 换脸无法杜绝，也与它背后已经形成的完整产业链息息相关。
服务会根据客户需求难度进行明码标价：换脸换声人民币 463 元，只换声音约为 228 元，并且都可以定制话术。
有的 AI 换脸工具会伪装成普通绘图软件，然后在产品详情页中明标注"可实现换头换衣功能"，心照不宣地吸引受众下单。
还有人专门组合兜售诈骗软件和教程，大言不惭地宣称用这套工具做出来的伪造内容，"找不到丝毫破绽" 。
〓 黑灰产卖家宣传信息，来源：新京报
当技术、金钱和人性中的恶叠加，这种对抗注定是一场漫长的拉锯战。
最无力的就是受害者，他们维权的难度，远超想象。
很多时候，受害者必须自己承担起侦探的角色。Deepfake 受害者们为了追查源头和主犯信息，整整花费了两年时间，才艰难地追踪到关键线索。
付出巨大的精力与成本，可能最终只能看到轻微的惩罚，与他们遭受的名誉和精神损失完全不成正比。
近几年，AI 技术犹如脱缰的野马，以超越想象的速度飞速成长，它在带来颠覆性便利的同时，也像一个被打开的潘多拉魔盒，引发了海啸般的诸多问题。
我们站在历史的分岔路口，目睹了 AI 在效率和作恶之间摇摆的影子。
技术仍在狂奔，但如何为其套上伦理的缰绳、守住人性的底线，人类仍有很长的路要走。
遗憾的是，即便有一天法律跟上了技术，也无法抹平受害者遭遇的伤痛。
制作裸照能赚钱？那就批量伪造裸照到境外平台售卖。
同创优配提示：文章来自网络，不代表本站观点。
