一、背景

深度合成技术正在给我们熟悉的社会组织架构、交流方式带来迅猛冲击。长期以来，被认为可以检验人工智能能否思考的图灵测试貌似已经被逾越。

Midjourney创作的图像战胜了人类艺术家的作品获得艺术比赛“数字艺术”类别的第一名，或是让ChatGPT与人类谈笑风生，都预示着随着ChatGPT、Midjourney等平台的普及，让深度合成技术的使用门槛大大降低，让这项技术正在从实验室向普罗大众扩散，基于深度合成技术创作的作品也几乎到了随处可见的程度。

2022年1月28日，网信部门发布《互联网信息服务深度合成管理规定（征求意见稿）》，在历经近一年的征求意见后，《互联网信息服务深度合成管理规定》正式颁布并将于2023年1月10日施行，意味着中国为狂飙突进中的深度合成技术准备的深度监管措施已经就绪。

《互联网信息服务深度合成管理规定》并不是我国法规首次关注深度合成内容，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中均涉及深度合成内容，但这些法规更多是从音视频或较为宏观的角度关注，而《互联网信息服务深度合成管理规定》则针对深度合成内容的特点，更有针对性地进行规制。

二、适用范围

深度合成技术是一种特殊的算法应用技术。《互联网信息服务深度合成管理规定》将深度合成技术定义为：“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术”。具体言之，可以分为如下类别：

随着深度合成技术的广泛使用，《互联网信息服务深度合成管理规定》的调整范围会涵盖数字化工作的各个维度：客服平台的聊天机器人与营销机器人、广泛运用于地震等突发事件或体育赛事中的写稿机器人、相机（App）中的美颜功能、游戏中3D场景或捏脸功能、元宇宙所构建的虚拟空间……不一而足。

在管辖范围上，在中华人民共和国境内应用深度合成技术提供互联网信息服务会受到《互联网信息服务深度合成管理规定》的调整。该规定是以使用地域为监管抓手，且重点关注提供互联网信息服务，即如果仅用于科研目的，不涉及提供互联网信息服务，那么就不受该规定的管辖。此外，像ChatGPT本身禁止中国手机号注册，DeepL禁止中国用户成为付费用户，都杜绝了法律意义上的在中国境内提供信息服务的可能，而这也加剧技术的割裂。

三、深度合成技术合规义务框架

相对于征求意见稿，《互联网信息服务深度合成管理规定》最大的变化在于新引入了“深度合成服务技术支持者”的概念。

我们对三大主体的法律关系进行了梳理，并对重点的法律义务进行了归纳：

可见，《互联网信息服务深度合成管理规定》构建了以服务提供者为核心的深度合成技术监管制度，提供者通过管理规则、平台公约与服务协议来拉平技术支持者与使用者的合规水位，而使用者会直面最终用户。

除了三大主体以外，《互联网信息服务深度合成管理规定》还对互联网应用商店等应用程序分发平台提出对深度合成技术的审核要求，以压实监管责任。因此，在规定施行后，深度合成相关的App、小程序在申请上架时应提前准备安全评估报告、备案信息等材料。

四、重点：算法合规

深度合成技术是一种特殊的算法运用技术，因此属于算法合规的范畴。对深度学习技术算法机制的审核、评估会成为深度合成技术合规最显著的特点之一，即《互联网信息服务深度合成管理规定》中很多合规措施可以借用公司成熟的合规机制，但算法合规措施会令很多企业无从下手。

在网信办“互联网信息服务算法备案系统”中，就专门提供了《互联网信息服务算法安全自评估报告（生成合成类）》的模板，可以为算法评估工作提供参考。根据该模板，在开展算法评估时的大体思路是：1）对算法本身的情况进行介绍，比如算法的流程、所涉数据、模型、干预策略等；2）评估的重点在于对风险进行研判，风险主要来自于：算法滥用、算法漏洞、算法恶意利用等；3）在风险研判的基础上，需要对风险防控情况进行介绍，并判断相关机制能否有效消除或遏制风险，主要包括风险防范机制、用户权益保护、内容生态治理、模型安全保障等内容；4）基于以上信息，形成安全评估结论。

此外，金融领域的《人工智能算法金融应用评价规范》（JR/T0221-2021）也可以参考，该标准提供了AI算法评价内容的框架：

五、“单独同意”的适用

此次《互联网信息服务深度合成管理规定》中第14条对“单独同意”机制进行了规定，是一个近距离观察执法机构理解如何理解《个人信息保护法》中“单独同意”制度的窗口。在该法规第14条第2款中规定：“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。”

因为人脸、人声信息均属于敏感个人信息，因此该条款呼应了《个人信息保护法》第29条“处理敏感个人信息应当取得个人的单独同意”的规定。

目前学者们普遍将“单独同意”视为“同意”的子集，认为如果处理个人信息不以同意为基础，那么可以在很多场景下豁免单独同意的要求。但此次《互联网信息服务深度合成管理规定》中并未提及其他合法性基础，即使深度合成服务使用者以其他合法性基础编辑人脸、人声信息，也可能被监管部门认定为需要获得单独同意。

举个例子，机构或个人利用深度学习技术对历史纪录片、老电影进行修复，那么如果机械理解该规定，就需要历史纪录片、老电影中所有个人的单独同意，这几乎是不可能完成的任务。但在其他场景下，完全可以将新闻报道或已公开的信息作为法律依据，不经同意就处理这些个人信息。

所以，在进行风险评估时，需要从《立法法》、法律效力等角度进行论证“单独同意”在下位法中的适用情况，并确保说理充分。

六、合规路径

基于此前我们为该领域企业提供法律服务的经验，我们建议提供深度合成技术的企业（技术支持者与使用者）可以依据以下思路开展合规工作：

1.准确了解深度合成技术使用情况

对公司内部涉及深度合成技术的场景进行梳理。明确：运营主体、具体场景、所涉的用户数量与类型、数据来源、参与运营的供应商与第三方、当前的法律协议与规章制度、对个人与社会的（潜在）影响等。

2.科技伦理与算法安全评估

就相关技术的使用进行科技伦理风险评估。对算法、深度合成技术的评估主要通过：查阅材料、查看系统、访谈人员、系统测试、攻击测试、算法测试、查看算法等方式进行。

3.搭建内部制度机制

平台企业应当在用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理等领域将深度合成技术的风险管控纳入考量。此外，平台还需要建立内容审核、事件响应、辟谣、协助调查等机制。重点对于用户输入的提示词以及生成的结果进行审核。

4.制定管理规则、平台公约，更新服务协议

针对深度识别技术的使用，要求使用者在使用时：1）不得合成违法违规的内容；2）不得将合成内容用于违法或侵权用途；3）不得将合成内容谎称为自然内容；4）用于合成的素材应当合法合规，对人像、声音等生物识别信息获取单独同意（如有必要）并完成个人信息保护影响评估；5）对生成内容的知识产权的归属、数据处理的权限进行约定；6）其他需要约定或声明的内容。

5.标识深度合成内容

通过添加水印、电子签名等方式，对深度合成内容进行标识，避免公众误认以及被第三方恶意篡改或删除。在此过程中，更重要的是设计该法定提示如何在有效告知公众的基础上，避免对业务的正常开展造成过大的冲击。

6.使用者

对于使用者来说，应当根据自身的实际需要以及各平台对权利归属地约定选择平台，确保自己能够有权利使用生成的作品。在使用生成的图像、影像或音乐时，也应当遵守相关法律法规，对生产内容是人工智能自动生成进行说明或标识。此外，对于涉及敏感个人信息的处理，使用者也应当妥善处理合法性基础的问题，并完成个人信息保护影响评估。

附：其他法规中关于深度合成技术的规定

1.《互联网信息服务算法推荐管理规定》

• 发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输（第9条）

• 不得生成合成虚假新闻信息（第13条）

2.《网络信息内容生态治理规定》

• 网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。（第23条）

3.《网络音视频信息服务管理规定》

• 网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。（第10条）

• 网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。（第11条第1款）

• 网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。（第11条第2款）

• 网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理，部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。（第12条第1款）

• 网络音视频信息服务提供者发现不符合本规定第十一条第一款要求的信息内容的，应当立即停止传输该信息，以显著方式标识后方可继续传输该信息。（第12条第2款）

• 网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。（第13条）