国家互联网信息办公室、工业和信息化部、公安部三部门联合印发了《互联网信息服务深度合成管理规定》（以下简称《规定》），旨在加强对深度合成技术（Deep Synthesis Technology）的规范管理，促进互联网信息服务健康有序发展，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。这是我国在人工智能治理领域出台的又一重要法规，标志着对以生成式人工智能为代表的深度合成技术及应用进入精细化、法治化监管的新阶段。
一、明确界定与监管范围，聚焦前沿技术应用
《规定》首先对“深度合成技术”进行了明确界定，指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。具体包括但不限于：
- 生成或者编辑文本内容，如智能写作、对话生成；
- 生成或者编辑语音、音乐、音频，如语音克隆、歌曲生成；
- 生成或者编辑图像、视频内容，如人脸替换、人物生成、场景生成、视频增强/修复；
- 生成沉浸式拟真场景，如数字人、虚拟空间构建；
- 其他具有生成或者显著改变信息内容功能的合成技术。
监管对象涵盖深度合成服务的提供者、技术支持者以及使用者，特别是强调了对具有舆论属性或者社会动员能力的深度合成服务提供者的重点监管要求。
二、确立基本管理原则，压实主体责任
《规定》确立了坚持社会主义核心价值观、维护国家安全和社会公共利益、促进技术正向应用、防范风险等基本原则。核心是压实深度合成服务提供者和技术支持者的主体责任，要求其：
- 建立健全管理制度：包括算法机制机理审核、科技伦理审查、信息内容管理、数据安全与个人信息保护、反电信网络诈骗等制度。
- 落实真实身份认证：对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份认证的用户提供服务。
- 加强技术管理：采取技术措施保证深度合成过程可追溯，并定期审核、评估、验证生成合成类算法机制机理。
- 明确标识义务：对使用深度合成技术生成或者编辑的信息内容，必须进行显著标识（如加水印、添加标识符等），避免公众混淆和误认。
三、突出内容安全与标识要求，保障知情权
针对深度合成内容可能引发的虚假信息传播、侵权诈骗等问题，《规定》设置了专门条款：
- 任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事危害国家安全和利益、损害他人合法权益等活动。
- 深度合成服务提供者应对输入数据和合成结果进行审核，并记录相关日志信息不少于六个月。
- 对于可能引发公众混淆或者误认的深度合成信息内容（如仿冒他人身份、仿冒新闻播报等），必须在合理位置、区域进行显著标识，提示系“合成”或“虚拟”内容。
- 提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有交互功能服务的，应当明确提示用户正在与AI交互。
四、加强数据与个人信息保护，规范训练数据使用
《规定》要求深度合成服务提供者和技术支持者加强训练数据管理：
- 提供人脸、人声等生物识别信息编辑功能的，应当取得被编辑个人的单独同意。
- 建立完善的数据管理制度，依法依规收集、使用、处理个人信息，并采取必要措施保障数据安全。
- 用于训练算法的数据若包含个人信息，应遵守个人信息保护相关法律法规。
五、健全监管与法律责任体系
《规定》明确了网信、电信、公安等部门的监督管理职责，要求建立健全监督检查、技术检测等机制。对于违反《规定》的行为，相关责任主体将依据《网络安全法》、《数据安全法》、《个人信息保护法》等法律法规进行处罚；构成犯罪的，依法追究刑事责任。
六、意义与展望
此次《规定》的出台，是对快速发展的深度合成技术及其广泛应用（如虚拟主播、AI绘画、智能写作、换脸应用等）带来的安全风险和社会挑战的积极应对。它既为技术创新和应用划定了安全底线和伦理红线，也为产业的健康发展提供了明确的规则指引，有助于构建可信、安全、负责任的深度合成技术生态。随着技术迭代和应用深化，相关监管措施和标准也将持续完善，以期在防范风险与激励创新之间取得平衡，推动人工智能技术更好地造福社会。
