专家解读｜以安全助发展 以治理促创新

近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），这充分体现了国家对生成式人工智能发展和应用的高度重视，也标志着我国生成式人工智能治理迈出了坚实的一步。《办法》坚持发展与安全并重、促进创新与依法治理相结合的原则，为生成式人工智能的健康发展和规范应用提供了制度“锚点”和实践指引，在推动相关技术进步与产业落地的同时，确保生成式人工智能服务更好地造福人民。

近两年，生成式人工智能大模型在内容生成、理解推理、多轮对话等方面达到超预期的高度，将为数字经济蓬勃发展提供垂直化、场景化、个性化的应用工具，广泛赋能电子商务、创意产业、金融服务、医疗健康等领域。但目前主流的生成式人工智能属于“黑箱”模型，在应用中可能会产生有害言论、虚假信息、隐私泄露、偏见歧视等风险。发展可信安全的生成式人工智能已成为全球共识。发展与安全是一体两翼、辩证统一的关系，安全为生成式人工智能发展提出规范要求，同时也是其被市场应用、社会接受的基础。

《办法》坚持发展与安全并重、创新与治理相结合的原则，对生成式人工智能服务实行包容审慎和分类分级监管。一方面，围绕应用、研发、基础设施等多措并举打造自主开放的创新生态，鼓励生成式人工智能技术在各行业、各领域的创新应用，支持相关机构在技术创新、数据资源建设、转化应用、风险防范等方面开展协作，鼓励基础技术的自主创新，平等互利开展国际交流与合作，推动生成式人工智能基础设施和公共训练数据资源平台建设。另一方面，构建起了鼓励多方主体参与、贯穿生成式人工智能服务全流程的规范体系，对训练数据处理、生成式人工智能服务规范做了相应要求，规定了安全评估、算法备案、投诉举报等配套制度，明确了法律责任和发现违法内容的处置措施。《办法》还对国家有关主管部门的管理提出了要求，针对生成式人工智能的技术特点和服务特征，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。《办法》为生成式人工智能健康有序发展奠定了坚实的制度基础，也为大模型等新技术的监管做出了示范。

下一步，落实《办法》精神和相关要求，需要业内科研机构和企业一起努力，在相关部门支持下，推进重点领域攻关，打造我国生成式人工智能“发展”与“安全”的双基座。在发展基座方面，进一步研发并开源高质量的基础模型，同时构建面向大模型研发与应用的全链条开源体系，贯穿数据、预训练、微调、部署和评测各个环节，降低我国大模型研发和商用开发的门槛。在安全基座方面，推进构建生成式人工智能高质量数据集，研发相关系列标准，建设生成式人工智能评测平台，打造“数据、标准、评测”一体化的生成式人工智能大模型可信安全体系，为生成式人工智能健康发展和规范应用保驾护航。（作者：乔宇　上海人工智能实验室主任助理、教授）