专家观点

人民网评:依法管理深度合成服务,维护清朗网络空间

发布时间:2022-12-19

国家互联网信息办公室、工业和信息化部、公安部近日联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),强调不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者落实信息安全主体责任,《规定》将于2023年1月10日起施行。

深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。具体到应用层面,视频换脸、语音合成、影像修复、虚拟数字人等越来越多地出现在社交娱乐、影视制作、广告营销等领域,商业使用场景愈发多元化,给用户和受众带来新奇有趣的观感体验。

但也要看到,深度合成技术是一柄双刃剑。深度合成过于“逼真”使交互变得虚实难辨,耳听或眼见未必为实,滋生出一系列安全隐患。比如,不法分子利用有关技术,制作、复制、发布、传播违法和不良信息;诋毁、贬损他人名誉、荣誉;伪造音频、视频搞变声、变脸,实施新型诈骗……严重损害人民群众合法权益,严重威胁社会信息安全,这一切已引起有关部门的高度重视。

《规定》的出台,正是为了加强针对互联网信息服务深度合成的管理,统筹协调相关监管工作,确保相关技术与应用纳入规范化、法治化轨道,维护国家安全和社会公共利益。

压实并强化深度合成服务提供者的信息安全主体责任,势在必行。《规定》要求,深度合成服务提供者建立健全包括算法机制机理审核、科技伦理审查等管理制度,以及具有安全可控的技术保障措施。从源头上控制,从制度上保障,是确保深度合成技术合理安全应用的前提。在此基础上,制定公开管理规则、平台公约,完善服务协议,则是依法依约履行管理责任,约束使用者承担信息安全义务,防止别有用心者“胡作非为”。依法对深度合成服务使用者进行真实身份信息认证,建立健全辟谣机制和申诉、投诉、举报机制等,更使管理与规范系统化、精细化。

特别要指出的是,对于可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。这一规定十分重要,显著标识能够起到“以正视听”的作用。简言之,深度合成技术作为现代科技文明的产物,必须被置于以技术伦理规制、以法治文明治理的框架内。

行政监督与司法亮剑,同样必不可少。《规定》明确,网信部门和电信主管部门、公安部门依据职责对深度合成服务开展监督检查,发现较大信息安全风险的,应当依法要求整改,消除隐患。深度合成服务提供者违反《规定》,造成严重后果的,依法从重处罚。构成犯罪的,依法追究刑事责任。法有禁止不可为,任何单位或个人妄图利用深度合成技术“为非作歹”,必将自食苦果。

网络空间天朗气清,符合人民利益。规范和引导依法、合理、有效使用深度合成技术,是防范化解安全风险的必然要求,是促进深度合成服务健康发展的必然选择,更是维护清朗的网络生态的必然条件。