关键字：
导 读：
美国华盛顿，一名记者在自己的办公桌上观看一段由卡内基梅隆大学研究人员利用人工智能操纵的“深度伪造”视频。央广网北京3月21日消息 据中央广播电视总台中国之声《新闻超链接》报道，近日，国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工...,软件,互联网,智能,智能,互联网
美国华盛顿，一名记者在自己的办公桌上观看一段由卡内基梅隆大学研究人员利用人工智能操纵的“深度伪造”视频。
央广网北京3月21日消息 据中央广播电视总台中国之声《新闻超链接》报道，近日，国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作，并依法约谈映客、小米等11家企业。
什么是“深度伪造”技术？当技术使我们听到的、看到的真伪难辨时，会引起怎样的连锁反应？面对“深度伪造”，“反伪”究竟有多难？对此，中国信通院云大所人工智能部副主任石霖、中国科学院自动化研究所研究员赫然以及科大讯飞AI研究院视频分析技术专家吴子扬为大家科普相关知识。
什么是“深度伪造”？
“深度伪造”(deepfake）是一个由计算机的“深度学习”（deeplearning）和“伪造”（fake）组成的合成词，是一种通过自动化的手段（尤其是人工智能的算法技术）进行智能生产，操纵、修改数据，最终实现传播行为的一种技术。“深度伪造”技术能够编辑或者替换视频、图像中的人脸。除了视觉上的模仿，该技术还可以用于语音模仿。目前，该技术主要用于消遣娱乐，但也经常被不法之徒恶意利用。
不法分子盗用用户个人的人脸、声音等个人信息，使用“深度伪造”技术行骗，会在整个社会形成“无诚信”氛围：信息的真假难以判断，一切都默认为“假”。长此以往，人类的交流大打折扣，合作难以达成，最终将会是人类社会的分崩离析。
除此之外，部分软件用该技术恶搞他人，造成他人名誉和心理上的损害。
“深度伪造”和深度合成有何区别？
石霖主任强调，不能用“深度伪造”这一污名化词汇来概括“深度合成”技术。“深度合成”技术本身没有善恶之分，当滥用该技术，跨越道德和法律的边界时，才会出现“深度伪造”行为。
“深度合成”技术更是广泛存在于我们现实生活中，代表人工智能在生活方面的前沿应用。据赫然研究员介绍，语音导航以及美颜相机里面的换脸设计都属于“深度合成”技术。
如何“反伪”？
目前，我国已出台了相关的政策法规，部署了相应检测和鉴别技术，禁止将“深度合成”技术用于虚假新闻信息的制作和传播，对非真类音视频要求进行明确标识，同时还要求相应平台进行安全评估。
不少人工智能团队和企业都在致力于识破伪造技术。比如，百度安全通过训练深度神经网络模型识别假脸的边缘效应、纹理、肤色变化、分辨率差异、扭曲等特征，来鉴别是否存在人脸伪造情况；科大讯飞则通过语音假音检测，口型的口唇识别来应对语音造假行为。
但迄今为止，人们在应对“深度伪造”技术方面的表现并不理想。2019年，斯坦福大学成立研究小组设计“深度造假”的识别应对方案，但专家们的破解速度远赶不上技术发展速度。因为只要给人工智能学习的机会，它便可以通过学习实现自我进化：一次破解成功很快会被化解并形成反击，且反击会变的更复杂、更难以抵消。
正因如此，唯有国家、机构、企业一同配合，才能共同应对人工智能时代的新兴网络威胁。
当下，机遇与挑战并存。“深度合成”技术并无善恶，它既可以用来伪造视频、图像蒙骗他人，也能成为便利人类生活的好帮手。只要多方合作布局，加速相关技术开发，必能实现AI赋能生活的愿景。
监制：梁悦
记者：鹤佳
编辑：杨扬 潘雨薇