专家解读：人工智能产业发展需要引导企业积极创新，迎头赶上

紫金财经4月17日消息 从ChatGPT，到国内“文心一言”“通义千问”等产品的邀请内测，目前生成式人工智能（AIGC）作为最为热门的革命性新技术之一，开创了一条科技发展的新赛道。尽管国内生成式人工智能产业的大模型研究和商业应用仍处于发展初期，但为促进我国生成式人工智能技术健康发展和规范应用，该技术产业也于近日迎来国内首份规范性监管文件。

4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（下称《意见稿》）并公开征求意见。《意见稿》共二十一条，明确了生成式AI应遵循的合规要求，对生成式人工智能产业给出较为详尽的规定，对生成式AI技术、生成内容、主体责任、数据源和数据处理等方面都做出了要求。

“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。”在《意见稿》中，明确了对生成式人工智能产业的支持和鼓励态度，即体现了对生成式人工智能技术提前研判、提前介入、提前监管的思路，又展现了国家对新业态加强监管、支持技术创新的理念。

《意见稿》对于规范应用和产业健康发展意义非凡，企业也应及早构建与布局相关机制和工具，有效规避数据治理水平、数据合规体系风险。“人工智能产业发展需要引导企业积极创新，迎头赶上。”广东财经大学法学院教授姚志伟表示，《意见稿》第五条虽然对提供者施加了“内容生产者”的责任，但“使用者”也要承担相关责任。内容生产者的责任不仅包括内容安全责任，还包括知识产权侵权、民事责任等应该在民事法律体系框架内解决的责任。对于危害到国家安全和重要公共安全的问题列出清晰的规则，明确法律责任和后果，划定底线进行监管。对于个人信息保护、知识产权侵权、人格权侵权等问题可以待产业实践更成熟时再加大相关内容的立法监管。如果对企业责任过重，反而会抑制企业的创新热情和技术进步。

在生成式人工智能的技术产出链条上，技术开发者是关键，数据的重要性不言而喻。但如何合理设定数据的法律基线，仍有待进一步研究。《意见稿》第七条规定，生成式人工智能服务提供者用于生成式人工智能产品的预训练、优化训练数据来源承担合法性义务，并保证数据的真实性、准确性、客观性、多样性，不得含有侵犯知识产权的内容。

对外经济贸易大学数字经济与法律创新研究中心主任许可表示，要想实现生成式AI技术创新和公共利益保障“双赢”，需要进一步解决数据质量和数据合法性的矛盾、数据训练和信息生成的矛盾、责任承担者的矛盾。在研发过程中秉持“读书无禁区”的原则，在向公众提供服务时坚持“发言须谨慎”的态度。

而对于知识产权的侵权性判断，必须考虑到训练数量问题。面对海量训练数据的审核难题，现有立法对网络服务提供者会建立一种避风港机制，要求权利人发通知主张权利，从而降低审核难度。北京外国语大学法学院副教授陈明涛表示，对于生成式人工智能服务提供者也可以考虑采用类似制度，建立避风港机制，在规范产业发展的同时，为新兴产业经济活动留出充足空间。

从新规中不难看出，《意见稿》释放了一个明显讯号，重点关注生成式人工智能的产品或服务对用户个人信息的保护，明确了服务提供者对用户的输入信息和使用记录承担保护义务，通过“三个不得”的规定，为用户输入信息的处理活动使用划定了红线，积极回应了用户在使用新兴互联网服务过程中对隐私安全和个人信息保护的关切。《意见稿》第九条规定，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。同时第十一条也要求生成式AI服务的提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。

根据《中华人民共和国网络安全法》规定，为用户提供信息发布、即时通讯等服务，应当要求用户提供真实身份信息。但北京航空航天大学计算机学院工业和信息化法治研究员周瑞表示，生成式人工智能服务，是用户与机器之间，以输入和输出的方式实现的的交互，不是人与人之间的即时通讯，也不涉及面向公众的信息发布和传播，因此不属于“信息发布”或“即时通讯”服务。从立法目的来说，要求用户提供真实身份信息，看似是一种安全保障，但实际上，用户面对机器所作的 “输入”类似于检索，即使一些用户“输入”的问题不安全，也不能仅仅因为“输入”而要求其承担责任。所以并无强制规定实名制使用生成式人工智能服务的必要，可以考虑改为鼓励，以激励更多用户使用新的产品及服务，不断提升技术发展水平。北京大学法学院助理教授、牛津大学法学博士彭錞也表示，生成式人工智能服务管理需要考虑到第三方服务等现实业务需求。比如“不得向他人提供用户输入信息”，可能会抑制以可编程接口等方式接入第三方服务等现实业务需求，其目的是为了提供更好的用户体验，但也涉及第三方提供用户输入信息，故有必要设置相应的例外情况。

生成式人工智能的发展并没有一个确定的终点，在其影响下，人类社会将发生持续、多元、颠覆性嬗变。今年3月，中共中央、国务院出台了《数字中国建设整体布局规划》，人工智能技术对于数字中国建设至关重要，极大程度上提升了数字中国建设的整体性、系统性、协同性，为驱动生产生活和治理方式的变革注入强大动力。

自生成式人工智能面世以来，《意见稿》是国家首次专门针对生成式人工智能进行系统监管，代表了监管部门的监管方向，在安全与发展并重的思路基础上为产业发展指明了方向，划出了一条合规有据、有法可依的安全线，监管机构对数据处理主体、数据处理过程以及伴随的国家安全和信息安全的认识也在逐步清晰。未来已来，《意见稿》便是对生成式人工智能的新机遇和新挑战作出及时而有效的回应。