2023年，生成式人工智能（Generative Artificial Intelligence，GAI）火爆全球，这一年也被称为人工智能（Artificial Intelligence，AI）发展元年。同时，实务界习惯上将2024年称为AI监管年。GAI以其能够接近人类思维的特征被广泛应用于多个领域，成为推动行业数智化转型的重要工具。公共采购作为重要的治理工具，既是推动生成式人工智能产业发展的重要抓手，也是对由智能化引发的大规模安全风险、算法风险、伦理风险和隐私风险等进行治理的有效工具。

AI采购制度建设成为各国的一项重要工作。近年来，英国、美国、荷兰、爱沙尼亚、塞尔维亚等有关国家积极制定并执行AI采购制度。我国陆续出台过一些AI相关政策，如《新一代人工智能发展规划》（国发〔2017〕35号，以下简称35号文）、《互联网信息服务深度合成管理规定》（国家互联网信息办公室等三部门令第12号，以下简称12号令）、《生成式人工智能服务管理暂行办法》（国家互联网信息办公室等七部门令第15号，以下简称15号令）等，但这些制度的可操作性有待进一步完善。同时，我国至今未出台GAI采购相关的专门制度，采购部门在采购GAI产品或服务时只能照搬计算机软硬件采购方法。

世界经济论坛AI采购用户手册（以下简称用户手册）是在吸取英国、美国、荷兰、爱沙尼亚、塞尔维亚等多国制度的基础上产生的，具有典型性和代表性。学习和借鉴用户手册，对构建我国GAI采购制度具有重要意义。

世界经济论坛AI采购制度的主要内容

2020年世界经济论坛发布的用户手册主要由10个方面内容构成，即选用合适的采购方式、评估风险和识别公共利益、服务国家和有关部门发展、遵循法律和实践标准、评估数据的可访问性和可用性、评估数据伦理、与多样化及多学科的团队合作、鼓励构建算法问责机制和透明度机制、应用生命周期管理方式、加强市场参与等。从体系上来看，该用户手册由10个一级大类、28个二级子类和92个三级子类构成，具体包含如下内容：

第一，选用合适的采购方式。首先，鼓励应用创新性采购方式（如敏捷采购），但要求所采用的创新性采购方式不能有排除潜在竞争者的行为。其次，与多元主体合作来清晰地陈述问题、原因以及采购需求。最后，采购需求中要明确应用合同方式来管理AI，并支持迭代式（敏捷）AI开发方法。

第二，评估风险和识别公共利益。首先，在与相关主体沟通或交换意见的前提下，识别出能更好匹配采购需求的AI解决方案。其次，从利益相关者、受保护群体、数据偏见等角度优先考虑公共利益。最后，评估AI对利益相关者的潜在影响和可能风险。

第三，服务于国家和有关部门发展。一方面，AI及其采购应当符合国家AI发展战略和数字发展战略。另一方面，熟悉国家及有关部门关于创新发展政策、技术发展政策、数据治理政策和行业规范，了解和学习政府AI项目的资源库内容。

第四，遵循法律和实践标准。其一，咨询法律专家，并对有关数据服务行业惯例进行调查，以确保涉及的采购需求符合隐私安全和国家安全。其二，保护商业机密和知识产权，符合数据保护和隐私保护法律。

第五，评估数据的可访问性和可用性。首先，建立采购数据和AI数据负责制（如由数据首席官、数据集管理人员等负责）以及潜在数据的使用机制，使数据治理机制贯穿于整个采购流程。其次，通过高水平评估、熟悉数据访问过程和供应商访问数据的流程，确保AI系统可获得相关数据；制定AI系统数据所有权标准，确保能够访问AI使用和产生的数据。最后，通过学习供应商共享数据和案例方法，对AI使用和生成的数据进行共享。

第六，评估数据伦理。其一，敏感型数据的使用（如个人身份数据和军事数据）要符合《人工智能系统政府采购白皮书》（AI Procurement in a Box:AI Government Procurement Guidelines）中规定的公平标准。其二，了解数据生成过程，在采购需求中提出数据的局限性（如质量），要求投标人对此制定相应的解决策略（如考虑其他数据源和咨询其他主体）。

第七，与多样化、多学科的团队合作。其一，熟悉与AI政策、采购实施、数据治理和AI有关的技能，同时与拥有有效采购和维护AI所需技能集的多学科团队合作，共享不同的见解并共同决策。其二，中标人是由拥有多种技能的成员组成的团队。

第八，鼓励构建算法问责机制和透明度机制。首先，在AI驱动的解决方案中提倡问责文化；利益相关者要对AI系统及其各自的行为与结果负责。其次，在AI决策的整个过程中进行必要的人为监督，确保其决策过程尽可能透明。最后，中标人提供关于算法背后逻辑的文档、详细的AI运行原理及运行过程的说明，这些文档作为问责制和解决争议的依据。

第九，应用生命周期管理方式。首先，持续性评估和训练AI，持续更新AI模型，不断更新和培训AI知识。其次，供应商提供丰富的AI培训材料和文件，使非技术人员能够有效地操作和管理AI。最后，制定专门的AI伦理标准，对投标人的伦理能力和伦理经验进行评估。

第十，加强市场参与。首先，与新兴企业和学术界等合作及应用新的市场参与方式（如举办问答会、讨论会、供应商日、创意交流会或联合工作空间演示等）服务不同的供应商。其次，向潜在供应商陈述问题和设想（如用户需求、AI适用性），并尽早加强与其联系。最后，AI系统尽可能多地利用开放标准确保其具有互操作性和开放性，与供应商和承包机构约定知识产权权益，避免供应商被锁定。

用户手册对我国构建GAI采购制度的影响

目前，我国已经出台的AI相关制度性文件有35号文、《国家新一代人工智能标准体系建设指南》（国标委联〔2020〕35号）、《新一代人工智能伦理规范》、《互联网信息服务算法推荐管理规定》（国家互联网信息办公室等四部门令第9号）、12号令、15号令、《网络安全标准实践指南——生成式人工智能服务内容标识方法》（信安秘字〔2023〕124号）、《全球人工智能治理倡议》、《国家人工智能产业综合标准化体系建设指南（2024版）》（工信部联科〔2024〕113号）、《人工智能安全治理框架》1.0版等。上述制度对AI技术在应用、研发、管理等方面都给予了规范，但目前中央及地方层面均未出台GAI采购领域的专门制度。

积极参与全球AI治理研究，及时跟踪国际AI采购制度建设动态，对标国际关注焦点，增进国际共识，是构建我国GAI采购制度需考虑的重大议题。世界论坛从国际视角出发，围绕AI所编制的用户手册，对我国构建GAI采购制度具有重要影响。

第一，有利于推动全球共识性AI采购制度的构建。通过参考世界经济论坛发布的用户手册，我国可以更为全面且深入地了解国际上对AI采购的政策导向和监管要求。这不仅包括各国在数据安全、隐私保护、伦理道德等方面的普遍关切，也涵盖了促进技术创新、保障公平竞争、推动国际贸易和技术合作等方面的国际共识。在此基础上，我国能够更有针对性地制定相关制度，在切实保障国家安全和社会公共利益的前提下，积极与国际通行规则接轨并达成共识，有效减少在国际贸易和技术合作中可能遇到的障碍和摩擦。

第二，有利于进一步规范GAI采购行为和推动采购高质量发展。用户手册涵盖了AI采购的流程指引、具体标准以及行业规范等一系列关键信息。这些信息将对优化我国采购制度起着至关重要的推动作用，能够显著提升采购效率和透明度。借鉴用户手册中所列的采购标准和规范，可以进一步确保采购流程的公正、公平和公开。这不仅有助于维护市场秩序，还能最大程度提高采购项目的质量和整体效益，为政府和企业带来更加优质、高效的采购服务。

第三，有利于推动GAI技术创新。用户手册强调技术迭代创新的重要性。对于我国来说，这将是一个推动GAI领域技术创新和产业升级的契机。我国通过优化采购制度尤其是引入敏捷采购方式，鼓励企业加大研发投入，提升技术水平和产品质量，进而推动整个行业的健康发展。

值得注意的是，由于我国经济、社会及文化环境的独特性，世界经济论坛的用户手册无法完全适配我国的实际情况。因此，在构建GAI采购制度时，我国需要紧密结合自身的国情与实际需求，进行灵活适度的调整与创新。

用户手册对我国构建GAI采购制度的启示

世界银行认为，在人工智能发展过程中，当行业内的技术标准或规范处于不确定或激烈争论阶段时，公共采购指南可成为这些标准设定的基准或重要遵循。因此，从采购制度方面规范、引导、推进GAI发展，成为公共资源交易面临的重大问题。

第一，加快GAI采购政策法规和标准规范的建设进程。虽然我国已经出台不少AI相关的制度，对AI发展起到一定程度的规范作用，但这些制度内容过于宏观，尤其是缺乏针对GAI采购产品或服务的专门性规章或制度，这严重制约了AI的发展。因此，应在借鉴国际制度的同时，结合我国快速发展的GAI实践，尽快展开试点，在总结经验的基础上出台专门性制度成为当前公共采购的一项重要工作。

第二，加强数据权属确认，进行数据隐私保护。GAI在各领域的应用依赖于大规模的数据支持，但目前我国很多数据的来源和使用权并不明晰。例如，公共数据和企业数据界定不清，可能导致知识产权或商业秘密被侵犯。同时，GAI进行大量的数据交换和处理，可能涉及个人隐私以及政府数据等敏感数据。因此，GAI采购制度应当明确以下内容：依据严格的数据隐私保护法规，明晰数据权属问题，清晰划分公共数据与企业数据；规范数据的收集和使用，明确哪些数据可以收集，如何使用，以及何时删除等，以避免侵权和合规问题；进行数据加密、采取安全措施，确保数据处理和存储的合规。

第三，强化流程治理，‌提升采购过程透明度。GAI存在的“算法黑箱”问题亟待通过采购制度加以解决。所谓“算法黑箱”，指的是算法在处理和生成数据时，背后的逻辑和决策过程缺乏透明性。因此，GAI采购制度应明确以下内容：首先，在采购前，需联合公共采购及相关领域专业人员，对输入AI资料的合理性展开研判，从源头上把控输入内容的合规性。同时，加强对采购单位及相关从业人员的培训，确保输入内容合法、合规、可控。其次，GAI深度依赖算法，由机器抓取、处理并传输数据，其输出内容会受到编程者主观意识、技术偏差以及算法偏差等因素的影响。因此，增加公共采购从业人员对GAI的监督，对AI输出内容进行审核和把关，针对其中存在争议和违规的内容及时进行修正纠偏，提高采购结果的公信力，确保采购过程的公开透明，避免做出错误决定。最后，在采购结束后，要求供应商提供对数据处理过程的解释，增强算法的透明度和可视化，同时建立第三方评估机制对其进行监管。

第四，‌构建多元主体责任机制‌。GAI采购制度应明确以下内容：在GAI应用实践中，清晰界定技术提供方与使用方的责任边界，保障技术应用全过程的合规性。为了更有效地规范GAI在各领域的应用，应当建立起一个以人为本、涵盖多元主体在内的责任机制。具体而言，GAI服务的提供者有责任确保其提供的技术产品具备高度的安全性、稳定性和良好的可解释性，并持续监测及防控系统性风险。而AI服务的使用者需对其输入的内容承担相应的过错责任。有关领域的从业人员对于AI系统输出的内容承担评估与核实的职责，并对这些输出内容进行合理解释。同时，AI使用人员确保其所输入的内容合规有效，最大限度地规避技术应用过程中可能出现的法律风险。

第五，加强国际合作。面对GAI带来的复杂挑战，国际社会已积极行动起来。例如，美国政府发布了首个AI监管规定——《关于安全、可靠、值得信赖地开发和使用人工智能的行政命令》（Executive Order on the Safe，Secure，and Trustworthy Development and Use of Artificial Intelligence），该规定要求制定有关标准，以防止AI被设计为生物或核武器等威胁；英国教育部发布了针对教育领域使用GAI的官方指南《生成式人工智能在教育中的应用》（Generative AI in education：educator and expert views），以有效应对GAI所带来的挑战；欧盟通过了《人工智能法案》（Artificial Inte-lligence Act），致力于提升欧盟AI产业的规范性和透明度；韩国成立了“AI战略最高理事会”，作为官民合作下的AI最高综合治理机构。基于此，我国在构建GAI采购制度时应明确，要加强与其他国家和国际组织的合作，共同探索适用于GAI的国际贸易规则，推动全球范围内的AI治理合作。