这些都逃不过人工智能的“火眼金睛”

“隐身衣”和“用AI变脸”.这些都是自带流量的热词。在第23届高交会上，某产学研机构展示的隐形衣和AI变脸吸引了无数目光：工作人员穿上隐形衣，站在智能摄像头前，刚刚被识别的工作人员瞬间消失。当观众站在镜头前，你的脸可以变成一个跳舞的身体！

这是人工智能世界中“金蝉脱壳”技术的示范吗？其实不是。这是清华人工智能研究院的官方产学研机构。瑞来智能科技通过现场技术演示告诉观众，算法漏洞、技术滥用等新风险的出现带来了严峻挑战，人工智能安全治理成为重要课题。

吸引很多观众。

在本届高交会公共安全特区(第十八届中国国际公共安全博览会)现场，这件“隐身衣”吸引了众多观众。

一件特殊的t恤印有特定的图案，会让识别算法出错，无法捕捉到目标。一旦人们穿上它，他们就可以变得“隐形”。当然，人工智能可以是锋利的矛，也可以是坚固的盾。在展会现场，瑞来智慧还展示了行业首款人工智能防火墙系统。通过集成多项国际领先的对抗和防御算法，能够有效检测和抵御针对人工智能系统的新攻击风险，大大提升人工智能系统的安全性。

用人工智能技术对抗“人工智能变脸”

当前，热门社交网络的“AI变脸”正成为人工智能技术滥用的重灾区。一些明星和名人被AI换脸技术入侵。

研发。d人员表示，随着开源工具的普及，AI换脸的技术门槛越来越低，因此被大规模用于非法伪造公众人物肖像以吸引流量牟利，甚至出现色情、舆论操纵、网络诈骗等违法犯罪行为。随着技术的不断升级，现有“变脸”视频的准确率已经到了肉眼难以分辨的程度，传统的人工审核团队无所适从。

真正的深度伪造检测平台

在展会现场，记者看到了一个深度伪造内容检测平台DeepReal，能够快速、准确地自动识别各种格式和质量的图像和视频的真伪，能够为遏制和防止深度伪造技术的大规模滥用提供技术支撑。据报道，其检测准确率高达99%以上。

莱智副总裁唐家瑜表示，随着大规模建设和应用的加速发展，确保人工智能“安全、可靠、可控”成为其未来发展的最重要趋势。新的安全问题需要新的解决方案，需要构建新一代安全体系来应对人工智能新的安全风险。随着攻击形式的增加和安全问题的升级，很难预测风险并针对未知威胁调整策略。因此，需要构建动态的、科学的、前瞻性的防御机制。