逼真视频居然是假的！现在很多地方都是“变脸”诈骗案

视频或声音可能不是由真人拍摄或录制的。也许有人在手机App的后台，在支付界面，在你不知道的门禁闸机里偷拍你的脸.去年以来，多地发生“变脸”诈骗案件。

新华视点记者调查发现，随着深度合成技术的快速发展和落地场景的激增，一些不法分子趁机牟利。音频和视频等合成技术的滥用对人脸、声纹和指纹等个人敏感信息的保护提出了挑战。

合成动态视频一个2至10元 竟能注册手机卡、支付账户

近日，陈先生来到浙江省温州市公安局瓯海分局仙岩派出所报案，称自己被“朋友”骗了近5万元。经警方核实，骗子利用AI换脸技术，利用陈先生朋友阿城社交平台上此前发布的视频，截取面部视频并“换脸”，从而诈骗陈先生。

2021年4月，安徽省合肥市警方在公安部“净网2021”专项行动中打掉一个犯罪团伙。该团伙利用人工智能技术伪造他人脸部动态视频，为黑灰产业链提供注册手机卡等技术支持。

在警方抓捕现场，几名嫌疑人正在用电脑将静态照片制作成人脸的动态视频。模拟的动态人物不仅可以点头、摇头，还可以眨眼、张嘴、皱眉等丰富的表情，效果极其逼真。

在嫌疑人的电脑里，警方找到了十几个G公民的面部资料，面部照片和身份证照片都存放在文件夹里。“身份证正反面照片，手持身份证照片，自拍等。都叫做一套。”警方介绍，整套照片叫“材料”，卖的人叫“材料商”。这些资料在网上已经被转手多次，但资料的拥有者却毫不知情。

犯罪嫌疑人马某交代，由于制作简单，一个视频的价格只有2至10元，“客户”往往会购买数百个，从而牟取暴利。

近年来，浙江、江苏、河南等地也发生过类似案件。浙江衢州中院发布的一份刑事裁定书显示，张某、余等人利用技术手段，骗取支付宝人脸识别认证，利用公民个人信息注册支付宝账户，非法获利数万元。

这几起案件的作案过程颇为相似：犯罪分子非法获取他人照片或有偿获取他人声音等“素材”，仅用少量音视频样本数据，就能合成出堪比真人的假音视频，用于实施精准诈骗，侵害他人人身财产安全，或利用技术出售或恶意传播不雅视频，造成肖像权人名誉受损。

网络“叫卖”合成软件教程 风险背后存技术漏洞、治理短板

据合肥市公安局包河分局网安大队民警王祥瑞介绍，上述案件中的8名犯罪嫌疑人大多是社会闲散人员，其中一些人甚至没有读完高中。他们按照网购教程下载了软件，花了几个月时间“自学”。

记者联系到一名在网上出售相关教程的卖家。卖家介绍，全套软件和教程卖400元和800元，800元的是高配版，有“超级成功率”。记者在演示视频中看到，照片上传到软件后，面部特征被标注，剧本参数被调整，一张脸动了起来。“五官的参数随教程发，复制就行了。”据介绍，这些假视频不仅通过率高，人工审核也很难辨别真假。

“目前，公众对照片等静态信息容易被篡改有所警惕，但对视频、声音等动态信息仍有很高的信任度。”基础理论研究中心主任朱军

专家担心，尽管深度合成技术的识别技术不断迭代，检测手段不断增强，但仍未能跑赢“伪造”技术的升级速度。浙江大学网络空间安全学院院长任奎表示，随着合成技术应用门槛的进一步降低，真伪的界限已经被合成内容模糊。

北京致远人工智能研究院安全创新中心执行主任田甜认为，新的伪造手段层出不穷，网络通信环境日益复杂，检测算法存在漏洞等。这使得检测深度伪造变得越来越困难。

法律相对落后，也给不法分子留下了可乘之机。律师事务所合伙人陈律师表示，目前法律规定禁止利用信息技术伪造或者以其他方式侵犯他人肖像权，但对于如何合理利用技术、在什么情况下应当禁止，并没有具体规定。或者收集个人声纹、照片，使用个人生物信息如人脸、指纹、DNA、虹膜等。在什么范围内构成犯罪，将面临什么样的处罚，需要司法判决给予进一步明确的指导。

规制合成技术滥用 别再让公众为“脸面”担忧

保护人脸、指纹、声纹等敏感信息是公众的共同期望。再也不用担心信息“裸奔”会损害个人隐私、财产、名誉等。

中国第一个关于科技伦理治理的国家指导文件《关于加强科技伦理治理的意见》最近发布，强调了技术伦理治理的重要性和紧迫性。在今年的最高法工作报告中，多次提到个人信息安全，包括人脸安全。

陈表示，打击“变脸”诈骗犯罪，要规范技术的合法使用边界、技术的安全评估程序和技术滥用的法律规制，提高技术滥用的违法成本。

中国工程院院士、信息技术专家吴提出，针对深度合成技术的滥用，通过技术规制、技术创新、技术对抗来提升和迭代测试技术的能力。

除了技术监管之外，对技术滥用暴露的风险管理应该系统化和完善化。“需要构建数据集质量规范，根据应用场景对相关技术进行风险分类管理，明确设计开发单位、运维单位和数量。

专家提醒，针对花样翻新的“变脸”诈骗，公众要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；网络转账前要通过电话、视频等多种沟通渠道核验对方身份。一旦发现风险，及时报警求助。