提交成功
2024-01-19

机遇与挑战:生成式人工智能法律合规系列(五):生成式人工智能产品的前置性义务


引 言


近年来,生成式人工智能发展迅速,取得了众多进展和突破,据统计,预计到2026年,生成式人工智能市场将从2021年的15亿美元增长到65亿美元,复合年增长率达34.9%;生成式人工智能产生的数据将占所有数据的10%,而目前这一比例还不到1%。但同时,该技术的快速发展也带来了一系列新问题与挑战。


我们根据《生成式人工智能服务管理办法》《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务安全基本要求(征求意见稿)》等规范性文件的相关要求,为生成式人工智能服务提供者的运营进行法律层面的合规指引。并将于近期通过系列文章陆续推出,欢迎各位持续关注。




生成式人工智能是人工智能进入新纪元的技术标志,然而,每一项新技术的产生都伴随着未知的应用风险。《生成式人工智能服务管理暂行办法》于2023年8月15日正式施行,开启了对生成式人工智能服务的监管。



前置性义务



我们这里所说的前置性义务指的是生成式人工智能服务在上线前必须要履行的义务,否则就无法上线。


根据《互联网信息服务深度合成管理规定》,“互联网应用商店等应用程序分发平台应当核验深度合成类应用程序的安全评估、备案等情况;对违反国家有关规定的,应当及时采取不予上架、警示、暂停服务或者下架等处置措施。”


因此,如果不提前取得相应的资质、进行备案、安全评估等很可能会会导致程序无法在应用平台上架,或者即使上架也可能会面临下架的风险。


图17:生成式人工智能前置性义务


(一)

资质义务


近日,多款生成式人工智能相关软件在苹果应用商店下架。据称,相关App下架的主要原因是《生成式人工智能服务管理暂行办法》的实施。相关App开发者收到的苹果审核信息显示,使用深度合成技术须满足在中国运营的许可要求,包括获得许可证。


资质证照不仅提供了法律和行业所需的合规性,而且也是企业信誉和品牌形象的象征。在一个充满不确定性和风险的数字环境中,拥有适当的资质证照是建立信任、保护权益、维护合法运营的重要条件。对于生成式人工智能产品服务提供者来说,无论拟上市的产品是一个独立的网站、App还是小程序,都需要进行基础的资质申请。1


图18:生成式人工智能基础资质


1. 互联网信息服务许可/备案(ICP许可/备案)


根据《互联网信息服务管理办法》规定,国家对经营性互联网信息服务实行许可制度;对非经营性互联网信息服务实行备案制度。未取得许可或者未履行备案手续的,不得从事互联网信息服务。否则就属于非法经营。


通常情况下,对于生成式人工智能服务来说,根据其服务特点,在办理ICP许可证时,建议企业选择B21“在线数据处理与交易处理业务”以及B25“信息服务业务”,对于其他业务,可以根据自身服务情况进行选择。


鉴于ICP备案管理的属地性及常态化,各地通管局官网基本均具备相应的线上备案指南及备案入口,建议生成式人工智能服务提供者向属地通管局说明其产品具体服务形式,以获得通管局对于应当履行许可或备案程序的明确指示,并按照操作指南完成相应手续。2


2. 公安联网备案


根据行业实践,在完成ICP备案后,或网站部署在非中国内地的服务器上但是为中国内地(大陆)提供服务时,需在网站开通之日起30日内登录“全国公安机关互联网站安全管理服务平台”提交公安联网备案申请。因此,生成式人工智能服务网站的开办者或者App运营者均应当按照所在省、自治区、直辖市的属地公安机关的要求完成公安联网备案手续。


3. 《计算机软件著作权登记证书》《App电子版权证书》或《软件著作权认证证书》


根据《计算机软件保护条例》中国公民、法人或者其他组织对其所开发的软件享有著作权。软件著作权人可以向国务院著作权行政管理部门认定的软件登记机构办理登记。目前,国务院著作权行政管理部门认定的软件登记机构以及主流著作权认证有三类:3


《计算机软件著作权登记证书》:该证书由中宣部下属机构中国版权保护中心登记颁发;


《App电子版权认证证书》:该证书由版权保护中心与北京版信通技术有限公司共建的移动App第三方证书签名与版权登记联合服务平台作为认证机构,结合加密数字签名生成;


《软件著作权认证证书》:由国家版权局主管的中国版权协会作审核认证,并使用区块链(“中国版权链”)进行唯一登记。


著作权本身并不因登记而取得,故上述三项证书均为非强制性的权利性证书,亦非生成式人工智能产品上市的法定要件。但在当今的主流应用市场中,App软件权属成为应用市场的审核条件之一。对于生成式人工智能服务提供者而言,在App产品进入应用市场环节的实践中,通常要求提供以上三种证书之一作为软件著作权归属证明。


4. 基于业务需求的资质


除上述必备资质外,生成式人工智能服务提供者,可以根据自身服务领域或业务场景,也可能需要取得一些特殊的执业证照才能够合法上市。例如,根据《互联网文化管理暂行规定》的规定,从事音乐娱乐、动漫等经营性互联网文化活动的企业应当申请《网络文化经营许可证》。根据《网络出版服务管理规定》的规定,从事网络出版服务,必须依法经过出版行政主管部门批准,取得《网络出版服务许可证》。


最近,小米公司发布了《深度合成服务增加资质索要场景》的通知公告,于8月15日正式实施。公告表示,小米应用商店将对深度合成服务增加资质索要场景,涉及此类人工智能服务的App需要符合一系列资质标准,否则无法上架。生成式人工智能服务提供者可以进行参考。具体要求包括:


· 相关App需要进行互联网信息服务算法备案,并附上系列备案信息;


· 提供App安全评估报告;


· 提供全国互联网安全管理服务平台审批通过的截图;


· 提供《计算机软件著作权证书》《App电子版权证书》或《软件著作权认证证书》(三者选一);


· 提供ICP证或ICP备案。


(二)

算法备案义务


《生成式人工智能服务管理暂行办法》要求具有舆论属性或者社会动员能力的生成式人工智能服务提供者、生成式人工智能服务技术支持者,按照《互联网信息服务算法推荐管理规定》通过互联网信息服务算法备案系统履行备案和变更、注销备案手续并在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。


生成式人工智能服务提供者、生成式人工智能服务技术支持者应当通过“互联网信息服务算法备案系统”填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。具体的填报流,详见下图。


图19:算法备案流程


《生成式人工智能服务管理暂行办法》将备案义务的主体限定在“具有舆论属性或者社会动员能力的生成式人工智能服务提供者、生成式人工智能服务技术支持者”,那么,何为“具有舆论属性或者社会动员能力”的服务?


根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,具有舆论属性或社会动员能力的互联网信息服务,主要包括下列两种情况:


· 开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;


· 开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。


如果生成式人工智能服务提供者、生成式人工智能服务技术支持者不确定自己提供的服务是否属于“具有舆论属性或社会动员能力的互联网信息服务”,为了保险起见,建议进行算法备案。


(三)

安全评估义务


1. 需要安全评估的情形


根据我们整理,目前主要有以下规范性文件,规定了安全评估义务。企业对下述规定应该综合考量,如果所提供的服务涉及到下述情形,则需要在产品或者服务上线之前履行必要的安全评估义务。


表12:规定安全评估义务的规范性文件


2. 安全评估的内容


根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》安全评估主要是对如下内容进行评估:


· 信息服务和新技术新应用的合法性;


· 落实法律、行政法规、部门规章和标准规定的安全措施的有效性;


· 防控安全风险的有效性;


经过安全评估后,如果符合标准,应当形成安全评估报告,并应当将安全评估报告通过全国互联网安全管理服务平台提交所在地地市级以上网信部门和公安机关。


表13:安全评估内容


3. 安全评估要求


《生成式人工智能服务安全基本要求(征求意见稿)》也对生成式人工智能服务提供者的安全评估提出了相应的要求:


· 评估场景:生成式人工智能服务提供者应在服务上线前以及重大变更时开展安全评估。并且要将评估结果以及证明材料在备案时提交;


·估依据:应按照《生成式人工智能服务安全基本要求(征求意见稿)》中各项要求逐条进行安全性评估,每个条款应形成单独的评估结论;


·评估形式:评估可自行开展,也可委托第三方评估机构开展;


·评估报告:评估结论应为符合、不符合或不适用,应将各条款的评估结论以及相关证明、支撑材料写入评估报告。


自行开展安全评估的,评估报告应至少具有三名负责人共同签字:单位法人、整体负责安全评估工作的负责人(为单位主要管理者或网络安全负责人)、安全评估工作中合法性评估部分的负责人(应为单位主要管理者或法务负责人)。单位法人兼任网络安全负责人或法务负责人时,可由单位法人一并签字,但应另附说明。


需要强调的是《生成式人工智能服务管理暂行办法》仅要求“提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估”而《生成式人工智能服务安全基本要求(征求意见稿)》要求生成式人工智能服务提供者在“服务上线前以及重大变更时”开展安全评估,并没有特意强调“具有舆论属性或者社会动员能力”,这是否意味着安全评估主体范围的扩大?还待《生成式人工智能服务安全基本要求》正式颁布后的进一步阐明。


表14:安全评估要求


(生成式人工智能法律合规系列文章未完,待续)



注释

1 《跨越生成式人工智能产品合规上市之路(二):资质证照篇》,蔡鹏,肖莆羚令,王梦迪,2023.7.31,“中伦视界”微信公众号。

2 《跨越生成式人工智能产品合规上市之路(二):资质证照篇》,蔡鹏,肖莆羚令,王梦迪,2023.7.31,“中伦视界”微信公众号。

3 《跨越生成式人工智能产品合规上市之路(二):资质证照篇》,蔡鹏,肖莆羚令,王梦迪,2023.7.31,“中伦视界”微信公众号。





文章分享
相关文章推荐