中国国家互联网信息办公室（网信办）周五发布针对“深度合成”（Deep fake）的规则草案。路透社资料图片
中国国家互联网信息办公室（网信办）周五发布针对“深度合成”（Deep fake）的规则草案，根据网信办网站上公布的文件，包括使用运算生成和修改文本、音频、图像和视频，都在规管范围。但政府单位却可另立规则或法律，不受规管限制。
深度合成技术是指利用以深度学习、虚拟现实为代表的生成合成类运算来制作文本、图像、音频、视频、虚拟场景等信息的技术。中国出台的《互联网信息服务深度合成管理规定（征求意见稿）》同时针对深度合成服务提供者以及深度合成服务使用者作出规管。
虽然新规规定深度合成需要得到当事人同意，但政府机构却有方法可以获得豁免。草案第12条说：“深度合成服务提供者提供人脸、人声等生物识别信息的显著编辑功能的，应当提示深度合成服务使用者依法告知并取得被编辑的个人信息主体的单独同意。法律、行政法规另有规定的除外。”
草案的“说明”部分开宗明义指出，新规定出台涉及国家安全。《说明》指出：“互联网信息服务深度合成活动在服务用户需求、改进用户体验的同时，也被一些不法分子用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为，不仅损害人民群众的切身利益，甚至危害国家安全和社会稳定，迫切需要划定‘底线’、‘红线’，规范发展互联网信息服务深度合成活动。”
网信办亦表明，管制深度合成技术跟控制舆论有关，当局亦担心出现社会动员问题。草案第二十条指出：“深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。”
该规则规定，对初犯者罚款1600美元至16000美元，但违规行为也可能导致民事和刑事起诉。
草案还规定了一个用户投诉系统和机制，以防止深度造假被用来传播所谓的“虚假信息”。应用程序商店将被要求在必要时暂停或删除深度造假技术的提供者。
