专家解读|精细化治理深度合成技术应用 体系化维护互联网空间良好生态

更新: 2024-01-15

  得益于人工智能技术的持续不断的发展与开放,深度合成技术已大范围的应用于文本、图像、音频、视频、虚拟场景等数字内容的生成生产,在影视、传媒、教育等领域实现大规模应用。有必要注意一下的是,利用深度合成技术制作、复制、发布、传播违法和不良信息,仿冒他人身份实施诈骗、勒索等违背法律规定的行为也层出不穷。因此,国家互联网信息办公室联合工业与信息化部、公安部发布《互联网信息服务深度合成管理规定》(以下简称《规定》)恰逢其时,为规范深度合成技术应用提出了科学化、精细化、体系化的治理方案,有效统筹深度合成技术应用的安全与发展,促进深度合成技术的依法合理利用。

  首先,坚持主流价值导向,引导科技向上向善。《规定》以我国主流价值观为引领,维护人民合法权益,促进科技发展向上向善。一是坚持主流价值导向,科学管理新技术新应用。习强调用主流价值导向驾驭“算法”,全方面提升舆论引导能力。《规定》坚持正确政治方向、舆论导向、价值取向,通过加强针对深度合成技术应用的科学管理,确保深度合成服务向上向善。二是回应社会关切,营造天朗气清的互联网空间。《规定》划定了深度合成技术应用的“底线”和“红线”,维护国家安全、社会稳定,和人民群众的切身利益。三是鼓励行业自律,引导科技向上向善良性发展。《规定》遵循数字化的经济领域新技术新应用监管治理的整体脉络,沿用行业标准、行业准则等行业自律方式,促进企业依法合理规划利用深度合成技术及服务。

  其次,细分多元主体责任,全面构建治理体系。《规定》构建了围绕“深度合成技术支持者”和“深度合成服务提供者”的责任框架,针对其他相关主体也作出了规范。技术支持者应从源头深化技术治理,加强数据和技术管理,同时参照相关规定履行算法备案等手续。服务提供者应全方位落实信息安全主体责任,强化针对服务、用户、数据、技术和内容等方面的管理措施,实施安全可控的技术保障措施。在其他主体要求方面,服务使用者应承担信息安全义务,不得利用深度合成服务从事违反法律法规活动;互联网应用商店等平台应落实上架审核、日常管理、应急处置等安全管理的平台责任,为深度合成技术的安全合理应用搭建保护屏障。

  最后,配套相关法律和法规,深化网络管理要求。《规定》是我国互联网法治建设进程中的重要一步,既与多部上位法一脉相承,又与互联网信息服务相关法规有效衔接,还为以深度合成为代表的新技术新应用构建了安全与发展并重的科学管理体系。一方面,《规定》全面贯彻落实《网络安全法》、《数据安全法》、《个人隐私信息保护法》等上位法的具体实际的要求。例如,《规定》强调了深度合成服务提供者和技术支持者采取必要措施保障数据安全的要求,遵循了敏感个人信息处理中的单独同意原则。另一方面,《规定》能够与《网络内容信息生态治理规定》、《互联网信息服务算法推荐管理规定》、《网络音视频信息服务管理规定》等互联网信息服务有关规定法律法规有效衔接,便于配套实施。《规定》在已有规定的基础上,细化了深度合成技术的应用场景,明确了深度合成技术支持者和服务提供者履行信息安全义务的要求,是网络信息服务管理体系的有效延展补充。

  首先,明确全流程多节点信息安全要求。《规定》细化了深度合成技术上的支持、服务提供、服务上架等多个流程节点相关主体的具体实际的要求,建立了事前、事中、事后的信息安全管理措施。部署前,深度合成技术支持者和服务提供者应依据《互联网信息服务算法推荐管理规定》要求,在具备舆论属性或者社会动员能力属性时,积极履行相关备案手续。服务中,深度合成技术支持者和服务提供者应加强数据安全和个人隐私信息保护,定期对算法机制机理开展评估。在提供人脸、人声等生物识别信息编辑功能时,应重点履行对服务使用者合法处理敏感个人隐私信息的提示性义务,并对此功能开展安全评估,预防信息安全风险。此外,服务提供者还应全面履行包括公开管理规则、开展身份认证、审核信息发布在内的平台责任。上架后,技术支持者和服务提供者仍有义务对算法机制机理施行动态评估,服务提供者应添加标识标明其应用使用了深度合成技术,互联网应用商店等平台还应加强核验监督等安全管理责任落实。

  其次,创新内容信息标识技术管理制度。《规定》综合应用技管结合的方式实现了治理创新,通过要求深度合成服务提供者对深度合成内容信息进行标识的方式,保障了公众的知情权,确保了服务的可追溯。一是应用显著标识避免公众的混淆和误认。《规定》明确深度合成服务提供者应当使用显著方式对深度合成信息内容做标识,有效提示合成情况。具体落实时,深度合成服务提供者可以根据各类应用场景和潜在风险,通过文字、语音片段和电子图形标志等方式进行显著标识。此外,《规定》通过强调主体责任保障标识的真实性和唯一性,明确提出任何组织和个人不得采用技术手段删除、篡改或隐匿标识。二是通过标识实现深度合成内容信息可追溯。《规定》明确提出深度合成服务提供者应在内容信息中添加不影响用户使用的标识并保存相关日志信息。落实相关要求时,深度合成服务提供者可以在内容信息中添加使用特定工具或方法才能提取的隐性数字水印标识,确保发布或传播的深度合成信息内容可追溯。

  最后,强调真实身份信息认证管理要求。《规定》明确了实行真实身份信息认证管理的多种方案,能够在管理深度合成信息内容的同时推进用户个人信息保护。一方面,《规定》强调设置门槛加强用户管理。《规定》要求深度合成服务提供者应严格落实对服务使用者进行真实身份信息认证的主体责任,有利于对深度合成的违法和不良信息内容发布及传播者进行追责,同时也为陷入网络民事纠纷的相关主体提供了追溯渠道。另一方面,《规定》保障身份认证方式的多样性。《规定》明确了真实身份信息认证包括基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等多种方式。《规定》在保障通过多种方式认证深度合成服务使用者身份的同时,能够推进电子身份认证技术的发展,有利于从源头上减少个人信息滥采滥用等问题。

  《规定》具有一定的探索性和前瞻性,是进一步提升网络治理能力的应时应势之举,但深度合成技术应用治理目前尚处于起步阶段,在技术支撑和管理体系建设方面有待进一步加强。下一步可开展以下措施:

  一是加强《规定》宣传贯彻培训,尽快落实检查评估机制。加强《规定》的宣传推广和培训教育,督促深度合成技术支持者和服务提供者等主体开展算法安全评估;强化检查评估能力,有序推进深度合成技术应用的安全检查,敦促深度合成技术支持者和服务提供者及时发现和整改相关问题。

  二是推进技术产业自律自治,加速技术应用标准化工作推进。加快推进深度合成相关技术标准、安全评估标准等的研究制定工作,进一步发挥标准对技术应用规范、安全能力建设等工作的支撑作用。结合我国深度合成技术应用情况,分析各类深度合成信息内容在不同场景下的安全风险程度,形成符合我国实际情况的深度合成信息服务分级分类方法。

  三是加强标识体系建设,全面提升深度合成信息内容监管能力。依据《规定》有关要求,研究制定面向深度合成信息服务的标识体系,进一步明确标识范围,加强标识的管理机制。通过行业自律的方式组织相关企业开展落地实践工作,逐步引导形成先标识核验再上线的服务机制,压实企业主体责任,防范安全风险隐患。(作者:何宝宏,中国信息通信研究院云计算与大数据研究所所长)