美国：人工智能成熟度模型

在过去几年中，新兴的人工智能（AI）系统重塑了各种任务，并为众多领域拓展能力提供了令人兴奋的机会。这些系统在图像识别、文本分析等多种应用中，对政府机构可能越来越有用。

美国联邦和州政府已开始制定管理AI并有效、公平使用AI的方法。为此，某智库为评估AI成熟度模型提供了一个框架，帮助各级政府机构评估其AI能力水平，规划这些能力的发展，并在日益复杂和快速发展的AI领域中确定工作优先级。

（二）AI的定义

AI系统广义上被定义为 “一种基于机器的系统，对于给定的一组人类定义的目标，能够做出影响真实或虚拟环境的预测、推荐或决策”。

（三）政府机构面临的挑战

在协调新兴能力与现有能力、确定这些能力最有前景的用例、管理风险以及构建全机构范围的结构以高效安全地使用AI等方面，存在不可避免的挑战。该成熟度模型作为蓝图，帮助政府机构解决这些问题，了解当前AI能力，并规划未来方向。

（一）五个核心领域 建立富有成效的治理模型机构的AI系统受制于强大的治理系统和人类监督，并遵守所有相关法律法规。 资源充足机构的AI计划拥有必要的资金、硬件、软件、数据和人力资源。 产出具有影响力机构已建立绩效标准、测试程序和政策，以确保 AI 系统应用于合适的用例，并为机构的总体使命做出贡献。 产品和结果值得信赖机构设计和管理 AI 系统，使其具有代表性、透明度和无偏见性。 产品安全可靠机构有效管理与 AI 相关的风险，并保护 AI 系统及其包含的数据免受恶意攻击或不当披露。

（二）子领域与主题

每个领域分为子领域，每个子领域描述AI成熟度的更具体元素，如资金、测试和评估或网络安全。子领域进一步分为主题，是模型中机构AI能力的最详细组成部分。

（三）四个成熟度阶段 发展中机构在该领域仅有有限的能力，偶然实施或由员工独立工作，没有总体治理、结构或战略。 执行中机构在该领域的能力受到一定程度的意图和战略指导，但仍不发达。 已建立机构在该领域的能力已全面发展，但持续改进的机会仍未充分探索。 优化中机构在该领域的能力已全面发展，并受到持续、系统的努力来改进、加强和扩展。

基于各种组织当前与AI相关的政策、计划和指南开发了此成熟度模型，具体步骤如下：

收集了39份公开的参考文档，包括联邦跨机构、单个联邦部门和机构、州政府、国际组织、非政府组织、学术界和私营部门的战略、政策、计划和指南。 对关键文档的内容进行分类，并使用这些类别起草暂定的领域和子领域，旨在为政府机构的AI能力提供全面分类。 将剩余参考文档的内容编码到领域和子领域，根据需要更新领域和子领域，并在过程中明确它们之间的区别。 制定模型中使用的四个成熟度级别以及每个级别的特征。 使用参考文档的内容为每个子领域和每个成熟度级别制定暂定的成熟度指标，将子领域划分为成熟度模型中包含的主题。 对暂定的成熟度指标进行内部审查，包括将它们与各种来源的其他与 AI 相关的成熟度模型进行比较，以确定可能遗漏的AI能力领域。 将成熟度模型草案提供给项目团队之外的专家进行审查，并相应地更新模型。

 （一）作为评估与规划工具

该模型应作为政府机构了解其AI能力以及为其进一步发展、政策决策和内部运营提供信息的工具。应定性地将其用作地图，机构可以通过它将自己置于 AI 能力的整体格局中，并确定进一步发展的方向。

（二）自我评估与差距分析

机构应通过分析哪组指标最接近其自身的AI运营，来评估其在每个领域、子领域和主题中的成熟度水平。这种诊断练习将使机构对其AI成熟度的总体水平有一个整体的认识。它可以使用下一个最高领域的成熟度指标来关注特定的能力建设活动。

（三）优先级设定与计划制定

根据机构的具体使命和目标，可能希望将更多精力集中在特定领域或子领域的能力发展上，因为它们被认为重要，或由于这些领域已有的计划和正在进行的活动。机构可以优先考虑打算解决的差距，并制定计划来提高这些领域的能力。

（一）领域 1：建立富有成效的治理模型 子领域 1.1：协调、战略和规划 定义机构AI系统的开发和使用是战略性规划的，并与适当的内部和外部利益相关者协调执行。 主题与目标包括组织内部人员参与、外部利益相关者参与、计划制定、政策和标准制定、架构文档、治理的组织结构和流程、实施过程等。 输出：政策、计划和指南；人员和组织；产品和流程。 成熟度阶段表现从仅由技术人员参与到非技术人员广泛参与，从无战略到战略与其他计划集成，从无明确治理结构到有完善的治理模型等。 子领域 1.2：合规与问责 定义机构遵守相关法律法规，并拥有一套标准和政策，使内部和外部利益相关者能够对机构使用AI的行为负责。 主题与目标合规性审查和审计、职责分离、事件报告、熟练标准。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从对合规要求理解不足到全面理解和管理，从职责未分离到明确分离，从无事件报告流程到有完善的报告和管理框架等。 子领域 1.3：上诉和替代系统 定义机构的AI系统受到人类监督，其决策可以上诉。 主题与目标AI 输出的人类监督、替代流程、上诉。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无人类监督和上诉机制到有明确的监督和上诉流程，从无替代流程到有完善的替代流程并能根据风险触发。

 （二）领域 2：资源充足 子领域 2.1：数据集 定义机构拥有并随时提供质量足够的数据，用于开发和测试系统。 主题与目标数据质量、数据可访问性。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无数据质量保证程序到有完善的程序并能跟踪数据质量趋势，从无中央存储库到有中央存储库并能灵活管理数据。 子领域 2.2：基础设施 定义机构拥有开发和使用AI系统所需的必要软件和硬件基础设施。 主题与目标计算基础设施、数据存储基础设施、测试基础设施、基础设施可访问性。 输出：产品和流程。 成熟度阶段表现从无专门的AI基础设施到有完善的基础设施并能持续更新，从无测试环境到有 AI 特定的测试床和沙盒。 子领域 2.3：采购 定义AI系统的采购是系统化的。 主题与目标采购流程。 输出：政策、计划和指南。 成熟度阶段表现从无统一的采购指导到有标准的采购语言和策略，从无协调的采购到与跨机构和行业合作伙伴协作制定采购最佳实践。 子领域 2.4：劳动力和专业知识 定义机构能够招聘、保留和发展具有AI专业知识的人员，并培养具备AI素养的劳动力。 主题与目标技能和劳动力规划、招聘和保留、培养新兴人才、增强AI素养。 输出：政策、计划和指南；人员和组织；产品和流程。 成熟度阶段表现从无 AI 劳动力规划到有完善的技能框架和劳动力规划，从无激励措施到有多种激励措施吸引和保留AI专业人才，从无AI培训到有持续更新的培训计划并能提升员工AI素养。 

（三）领域 3：产出具有影响力 子领域 3.1：性能 定义机构测试、监控和优化其AI系统的性能。 主题与目标性能指标和指标、测试、监控、反馈和优化。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无明确的性能指标到有全面的指标并能定期审查，从无系统的测试方法到有严格的测试方案并能根据技术和用例更新，从无监控到有完善的监控机制并能及时采取纠正措施。 子领域 3.2：用例 定义机构能够识别并将AI系统应用于有益的用例。 主题与目标用例识别、用例评估、促进该领域的AI进步。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无协调的用例识别到有完善的政策和框架并能优先考虑用例，从无系统的用例评估到有多样化的评估标准和方法，从无促进AI进步的举措到有积极的投资和支持举措并能定期重新评估。 

（四）领域 4：产品和结果值得信赖 子领域 4.1：代表性 定义受影响的利益相关者能够参与AI系统的开发，不同能力和背景的个人能够使用AI系统。 主题与目标与外部利益相关者的参与、代表利益相关者的内部办公室的参与、用户体验。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无 meaningful 的外部参与到有定期的外部咨询并能影响系统设计，从内部办公室不参与到有明确的参与和影响，从无用户体验考虑到有完善的设计和实现原则并能满足不同用户需求。 子领域 4.2：透明度 定义AI系统的开发和使用有详细记录，AI系统的操作和结果易于理解。 主题与目标AI系统的描述性文档、AI内容的识别、透明系统的开发、数据透明度、AI 系统性能的沟通、第三方系统。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无系统的文档到有全面的文档并能公开访问，从无AI内容标识到有一致的标识政策，从 “黑箱” 模型到有可追溯和透明的系统，从无数据透明度到有详细的元数据和数据来源跟踪。 子领域 4.3：无偏见 定义AI 系统的设计和管理方式可减少偏见结果的发生。 主题与目标偏见和歧视的表征、评估偏见的指标、偏见结果的监控、无偏见的训练数据。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无偏见表征到有明确的政策和实践识别潜在负面影响和受保护属性，从无统一的偏见评估指标到有一致的框架和标准，从无偏见监控到有定期的监控和反馈机制，从无训练数据测试到有完善的测试程序并能根据评估结果改进模型。 

（五）领域 5：产品安全可靠 子领域 5.1：网络安全和隐私 定义机构拥有政策、工具和程序，以主动保护其 AI 系统和数据，并应对网络攻击。 主题与目标漏洞缓解、安全和安全影响评估、网络响应、数据安全和隐私。 输出：政策、计划和指南；产品和流程。 成熟度阶段表现从无漏洞审查到有定期的漏洞审查和最佳实践开发，从无安全影响评估到有标准的评估流程并能考虑级联效应，从无网络响应计划到有完善的响应计划和自动化防御工具，从无数据安全和隐私保护到有严格的访问控制和隐私增强技术。 子领域 5.2：风险管理 定义机构系统地识别风险，建立风险容忍度水平，并相应地管理风险。 主题与目标风险管理方法、风险容忍度、系统风险评估。 输出：政策、计划和指南；人员和组织；产品和流程。 成熟度阶段表现从无 AI 特定的风险管理框架到有完善的框架并能集成到企业风险管理中，从无风险容忍度定义到有明确的容忍度和优先级并能定期审查，从无系统风险评估到有全面的风险评估和文档并能持续更新。 

（一）模型的价值与意义

该智库政府机构AI成熟度模型为美国各级政府机构提供了一个全面、系统的框架，帮助其评估 AI 能力成熟度、规划发展路径并确定工作优先级。该模型涵盖了 AI 应用的各个方面，从治理和资源到产出、信任和安全，为机构提供了清晰的指导。

（二）模型的应用前景

随着AI技术在政府领域的不断深入应用，该模型将在帮助机构应对挑战、抓住机遇方面发挥重要作用。机构可以利用该模型进行自我评估，识别能力差距，制定针对性的改进计划，从而提高AI应用的效率、效果和安全性。

（三）未来建议

该智库建议，美国政府机构应持续关注AI技术的发展趋势，结合自身使命和目标，灵活运用该模型。同时，应加强跨机构合作，分享最佳实践，共同推动政府 AI 能力的提升。此外，还应不断完善模型本身，以适应 AI 技术和应用场景的不断变化。

来源：占知智库