文/杨子瑞
北京岳成律师事务所
北京总所律师助理
国务院在2017年7月8日印发的新一代人工智能发展规划的通知（国发〔2017〕35号）中明确：经过60多年的演进，人工智能发展进入新阶段，特别是在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下，人工智能加速发展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。大数据驱动知识学习、跨媒体协同处理、人机协同增强智能、群体集成智能、自主智能系统成为人工智能的发展重点，受脑科学研究成果启发的类脑智能蓄势待发，芯片化硬件化平台化趋势更加明显，人工智能发展进入新阶段。最近很火的Chat GPT、新必应人工智能等，均是基于人工智能发展而产生的最新成果，而其便属于本次讨论的生成式人工智能。对于上述技术的发展，世界上存在不同的态度，不仅由对人工智能的发展的展望，还有更多的警惕，像前段时间引爆网络的，数百位科学家联合签署限制Chat GPT继续迭代等。
2023年5月23日，国家互联网信息办公室2023年第12次室务 会会议审议通过了《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）。该《暂行办法》将于2023年8月15日起施行，本《暂行办法》共分为五章分别为总则、技术发展与治理、服务规范、监督检查和法律责任、附则，本《暂行办法》便是我国对于生成式人工智能的法律规范要求。下面，笔者在下文中浅析《暂行办法》中一些亮点条款。
《暂行办法》第二条规定：“利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”那么，何为生成式人工智能呢？本《暂行办法》第二十二条规定，生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。但《暂行办法》仅约束向中华人民共和国境外公众提供生成式人工智能服务，在境内仅面向特定对象提供生成式人工智能服务、研发生成式人工智能技术，未向境内公众提供生成式人工智能服务的等仅用于商用等特定对象的场景和研发的场景，将不会落入《办法》的规制范围。
《暂行办法》第三条“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”本条划定了生成式人工智能的原则，坚持发展和安全并重、促进创新和依法治理相结合，体现出了对尚不成熟的生成式人工智能服务更多的鼓励与包容，未设置高于现有相关法律规范要求的实质性合规责任，符合预期和产业的期待。
《暂行办法》第四条中，除了规定应遵守法律、行政法规，尊重社会公德和伦理道德等规定，这些义务均是现有法律规范的已有义务外，还在本条第五款中明确了透明度的要求：“提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。”透明度至以要求最先出现在2023年6月14日欧洲 议会通过的《人工智能法案》中，这此我国制定《暂行办法》很好的吸收了这一要求，笔者认为，在人工智能领域，透明底将是监管人工智能最终的一项标准，鉴于人工智能恐怖的信息抓取与整理能力，如果不确保人工智能的透明度，其将无法监管。
《暂行办法》第七条规定：“生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动 ...”其中规定使用数据应当有合理来源、不侵害他人知识产权、符合个人信息保护、保证训练数据质量，增强训练数据的真实性、准确性、客观性、多样性，同时应满足《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律规定。此条条款不仅有效的回答了关于人工智能训练过程中未经权利许可使用他人知识产权、肖像权、个人信息等权益是否侵权的问题，而且与其他规定形成了衔接。人工智能领域作为今年最火爆的科技爆点，在法律领域，很多无法做到有效的规范与监管，本《暂行办法》将人工智能的要求与现行法律联系起来，这能有效对于现有政策起到补充完善作用，推动构建我国人工智能的政策治理体系。
《暂行办法》第三章服务规范中主要规范了生成式人工智能服务提供者的责任与义务。根据附则规定，生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。其中明确：提供者应当依法承担网络信息内容生产者责任，履行网络信息 安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务；提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务；提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度 依赖或者沉迷生成式人工智能服务等。
笔者认为，上述规定将生成式人工智能提供者的责任细分，如网络信息安全义务、对未成年人的保护义务、个人信息的保护义务等。其中需要注意的是“提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。”这意味提供者除应遵守《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求外，提供者还应特别注意《互联网信息服务深度合成管理规定》等相关法律规范中的合规要求。
此外，《暂行办法》规定，“法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。”引入风险治理的理念，提出对生成式人工智能服务实行分类分级监管。虽然《暂行办法》尚未明确规定生成式人工智能服务具体的分类分级监管标准，但这无疑是我国对生成式人工智能服务管理的未来管理方式之一。
在新一代人工智能发展规划中明确，我国到2025年应初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。本此出台的《暂行办法》就是根据新一代人工智能发展规划中所规划的 , 建立人工智能法律法规、伦理规范和政策体系的重要一步。
