美国国防部负责任人工智能战略和实施路径
编译：学术plus高级观察员 TAO
本文主要内容及关键词
内容主要整理自外文网站相关资料
仅供学习参考，欢迎交流指正！
文章观点不代表本机构立场
2019年10月，美国国防创新委员会投票通过了一份名为《人工智能原则：国防部人工智能应用伦理的若干建议》， 文件中提出了“负责、公平、可追踪、可靠、可控”五大原则，以及对于美国国防部未来如何在人工智能系统中应用道德规范的12条建议。强调国防部应确保技术专家对人工智能的技术、开发过程和操作方法有足够理解；应避免偏见，以防在开发和部署战斗或非战斗人工智能系统时对人造成无意伤害等。
2020年5月，国防部决定采纳这5大原则，无论作战还是非作战人工智能系统，均须遵守以上原则。
2021年5月，美国国防部发布备忘录，确定了制定实施负责任人工智能（RAI）的基本原则，包括RAI治理、作战人员信任AI、产品和采购生命周期、需求验证、建立RAI生态系统、AI人才队伍建设。
2022年6月，美国国防部网站发布《国防部负责任人工智能战略和实施路径》，以指导美国防部制定实施人工智能基本原则的战略以及如何利用人工智能的框架。
《国防部负责任人工智能战略和实施路径》文件包含 负责任的人工智能（RAI）战略和 实施路径两个部分。
负责任人工智能战略
-原则-
国防部负责任人工智能的期望最终状态是 “可信”，可使美国国防部在一系列作战和非作战应用中的能力现代化，国防部也积极寻求使人工智能实现更加安全和高效的方法。 根据2022年国防部副部长负责任人工智能备忘录的指示， 国防部实现负责任人工智能要遵循6个原则。
-实施-
对负责任人工智能策略和指南进行“中心化的协调”和“去中心化的执行”。对国防部负责任人工智能策略和指南在国防部范围内进行中心化的协调对于构建互操作性、一致的指南和方法、共享最佳实践、识别协作机遇来说非常重要。同时，国防部各单位必须将负责任人工智能与现有工作流程、结构、过程进行优化融合。
使用综合的风险管理方法。随着人工智能技术的不断发展以及新兴人工智能战略的动态本质，人工智能开发方法需要融合现有风险管理最佳实践以满足国防部灵活使用尖端技术，同时坚持安全、可靠、伦理的标准，包括在产品的整个生命周期内需要持续地识别、评估和应对风险。
聚焦资源。国防部各单位将识别实施路径文件中负责任人工智能活动实现所需的资源，包括人员、专家、经验等。为在国防部范围内实现负责任人工智能，国防部各单位负责建立和维护与相关策略和过程一致所需的资源。
采用迭代方法与新兴研究保持一致。负责任人工智能战略和实现路径要求更新工具、方法和最佳实践以保持最新的人工智能开发实践。国防部将继续人工智能研发进程，利用产业界和学术界的成果来开发测试良好的工具和方法来推动负责任人工智能。
原则：确保国防部范围内严格的治理结构和流程，以便进行监督和问责，并明确国防部关于RAI的指导方针和政策以及相关激励措施，加速国防部范围内RAI的采用。
目标：考虑人工智能技术将被使用的环境，将治理结构和过程现代化，以实现国防部人工智能使用的持续监管。
实施：构建组织级的能力以改善国防部人工智能的监管和审计；为国防部负责任人工智能治理架构提供工具和资源支持，包括协调和定期的知识共享；确保负责任人工智能融入国防部战略和规划中；更新国防部作战能力评估过程，以支持国防部人工智能伦理原则的实现。
原则：通过教育、培训、建立试验、鉴定以及验证和确认（TEVV）框架，并将TEVV框架融入到实时监控、算法信任度度量、用户反馈中，以确保作战人员对AI的信任。
目标：实现系统操作人员对技术熟练度和熟悉度的达到标准级别，以实现对人工智能能力和人工智能赋能系统的信任。
实施：构建鲁棒的TEVV生态系统和对应的基础设施，以安全地开发人工智能能力； 开发最佳实践以融入作战人员和系统反馈，通过人工智能全生命周期、足够的文档和训练，明确人工智能能力中开发人员和用户的角色和责任。
原则：通过系统工程和风险管理方法为人工智能产品采购全生命周期开发工具、政策、流程、系统和指南，以同步企业负责任人工智能的实现。
目标：确保人工智能项目中考虑、并采取了措施来缓解相关风险，减少意外结果产生的可能性，同时确保人工智能研发满足国防战略的要求。
原则：将负责任人工智能纳入所有适用的AI要求中，确保RAI包含在国防部AI能力中。
目标：通过需求验证过程确保使用人工智能的能力在解决了相关人工智能风险后与作战需求是一致的。
原则：建立鲁棒的国家和全球负责任人工智能生态系统，以改善政府间、学术界、工业界和利益相关者的合作，并促进基于共同价值观的全球规范的形成。
目标：通过国内和国际参与来促进负责任人工智能设计、开发、部署和使用。
实施： 在负责任人工智能原则和国防部人工智能伦理原则方面，国防部、情报机构、其他政府机构之间合作开展；与产业界、学术界开展合作促进负责任人工智能的开发、采用和实现；把负责任人工智能融入到国际合作中，以促进共享价值、最佳实践和全球互操作。
原则：建立、训练、配备和留住RAI人才队伍，以确保强有力的人才规划、招聘和能力建设措施。
目标：确保所有国防部人工智能人才对人工智能技术、开发过程、以及实现负责任人工智能的操作方法具有适当的理解，这也是对2020年国防部人工智能教育战略的补充。
当前，美国人工智能探索步伐加快。2022年6月，DARPA启动了In the Moment项目，旨在将人工智能技术引入行动决策过程中。这也表明，相关探索逐渐从辅助向决策过程转变。 随着AI应用的深度和广度不断增加，尤其是将人工智能技术引入作战决策过程，人工智能伦理问题是亟需解决的问题，因此这可能开启由人工智能（算法）决定人生死的先例。
无论是国防部人工智能伦理原则，还是负责任的人工智能，都表明美国人工智能领域探索正在从实验室走向真实作战场景应用。美国国防部负责任的人工智能（RAI）战略是在人工智能原则基础上的扩展，而实施路径从人工智能产品全生命周期出发，在RAI治理、作战人员信任、人工智能产品和采购生命周期、需求验证、建立RAI生态系统、AI人才队伍建设等六个方面提出了构建负责任人工智能的具体路径，确保所有国防部人工智能人员理解实施人工智能的技术、开发过程和操作方法，以创建可信的人工智能系统和人工智能赋能的应用。
（全文完）
参考链接：
关注公众号了解更多
会员申请 请在公众号内回复“个人会员”或“单位会员
欢迎关注中国指挥与控制学会媒体矩阵
CICC官方网站
CICC官方微信公众号
《指挥与控制学报》官网
国际无人系统大会官网
中国指挥控制大会官网
全国兵棋推演大赛
全国空中智能博弈大赛
搜狐号
一点号
