如今，新技术在全球范围内的蓬勃发展，不断推动着人工智能与经济社会的深度融合，人们的生产和生活方式，已经越来越多地被人工智能改变。但与此同时，潜藏的问题和风险也不断被曝露出来，一个非常典型的例子，就是以视频换脸作为主要表现形式的深度合成技术。采用这项技术制作的内容在互联网上广泛传播，已发展出多元化的商业应用。如果不加以引导和治理，将会产生巨大的负面影响。

作为领先的第三代人工智能基础设施和解决方案提供商，深度合成技术是瑞莱智慧持续关注的重点。3月1日，瑞莱智慧在北京举办了主题为“AI时代的‘面子’问题”的媒体沟通会，中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文，瑞莱智慧CEO田天，副总裁唐家渝出席了此次会议。会上，瑞莱智慧通过对《深度合成十大趋势报告（2022）》（以下简称“《报告》”）的详细介绍，以及对深度合成内容检测平台DeepReal的交流展示，在分享自身对于深度合成技术不同维度的探索和思考的同时，也产生了很多独到见解和前沿观点。

深度合成内容亟待治理 检测工具成刚需

瑞莱智慧与清华大学人工智能研究院、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心近日联合发布《报告》，介绍和研判深度合成技术及应用带来的机遇与挑战，并就其发展与治理给出切实可行的建议和措施。瑞莱智慧CEO田天在沟通会上对《报告》内容进行了深入解读。

瑞莱智慧CEO田天

田天认为，技术的不断成熟是深度合成内容迎来爆发式增长的重要原因。研究论文的持续增加、开源技术工具和大量代表性方法的涌现，令深度合成内容的效果更加逼真、制作也更加高效，尤其是生成对抗网络等算法的出现，让合成内容达到了“真假难辨”的程度。“新型伪造方法层出不穷、网络传播环境的日趋复杂，加上基于检测算法存在漏洞缺陷等，反深伪检测技术面临‘强对抗性’，需要持续更新与迭代”。

深度合成内容的治理是一项长期的工作，需要社会各方的通力协作。田天表示，瑞莱智慧希望为人工智能和深度合成技术的规范发展出力。对于深度伪造内容，相关的检测工具十分重要，瑞莱智慧研发的深度合成内容检测平台DeepReal，将协助各界、各个机构，让深度合成技术健康发展。

AI安全迎关键窗口期 各方携手促发展

近年来，中美两国均出台了人工智能发展战略规划，从国家层面整体向前推进。无论是中国，还是美国，都有着完整的研发促进、鼓励创新的相关机制，在这些因素的驱动下，中国在人工智能领域，有着很大的上升空间，这也给了AI企业非常好的发展机会。在人工智能安全这个有着非常广阔发展空间的细分领域，中美两国可谓是并驾齐驱。

近年来，人工智能安全已成为国家政策层面重点关注的领域，国家相关的法律法规的不断完善以及各方对于算法治理、隐私保护等问题的高度关注，人工智能安全已迎来关键窗口期。现在在国内，尚未产生有世界影响力的人工智能产品和产业生态，这正是瑞莱智慧努力的目标。未来，瑞莱智慧与各界的联系和合作会越来越紧密，共同为人工智能领域的健康发展贡献力量。

中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文受邀出席了本次沟通会，他在演讲中表示，深度合成技术涉及到认知安全，所以我们要提升社会认知安全意识，将它作为集体责任，提升公众的数字素养，以及每个人对深度合成时代真相的认识和鉴别力，这里面有很多需要去努力的事情。人工智能企业都非常希望政府相关部门和各界积极开展有关法律伦理、治理上的对话和相关规范的制定，以及相关最佳实践的推广，这其实都是为了实现创新和治理之间的动态平衡，实施敏捷、稳健治理，同时使科技更好地服务数字化转型、数字生活。

深度伪造技术持续进化 DeepReal成对抗利器

深度伪造技术持续进化，网络数字内容多变、隐匿性强，监管难度大，因此开展主动技术防范与检测工作是必要的。会上，瑞莱智慧副总裁唐家渝向媒体讲解和演示了深度合成内容检测平台DeepReal。他表示，深度伪造技术检测工作当前面临两大难点：一是肉眼难以辨别，传统人工内容审核团队无法应对，二是深度伪造检测面临“强对抗性”，新型伪造方法层出不穷、网络传播环境复杂、深度学习检测算法模型存在结构性缺陷等。

唐家渝介绍，在结果准确度方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率，而在实际应用中，DeepReal的检测准确率也已达到业界顶尖水平，远超Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。在检测速度方面，DeepReal可实现每帧画面的检测时间仅用时30毫秒。DeepReal平台此前在国际安全极客大赛等多个重要赛事中屡获大奖，无论是标准层面、实战落地层面还是监管层面，瑞莱智慧现已与多家单位开展多方面的合作，DeepReal将在网络虚假内容甄别、人脸资料审核、影像物证真实性检验等实际应用场景中发挥强大作用。

唐家渝表示，除深度合成技术内容检测以外，瑞莱智慧目前也正在做相关研究，探索深度合成技术的正向应用，例如人脸替换技术，包括演员的面部替换、影视本地化配音、后期更换演员台词等等。例如虚拟IP的打造和运营，这样的虚拟资产，相比真人来说更加可控，也更加有想象空间。在谈到深度合成内容制作的发展趋势时，唐家渝认为，目前该技术集中在人脸合成范围内，未来一定会扩展到人体、环境等复杂场景下的合成。与此同时，未来相关的法律法规将更加完善，合法合规的应用边界更加清晰，会进一步促成深度合成相关产品的加速落地。

凭借在人工智能安全领域的深度探索与实践，瑞莱智慧将运用最新科技，发挥技术优势，与优秀的合作伙伴携手，为人工智能安全和企业的转型升级树立更多标杆，推动智慧城市的高质量发展，为人们带来更加美好的生活。