2019年9月29日,美国海军分析中心(CNA)受美国海军作战部委托编制并发布了《海军人工智能框架》报告。本文编译了该报告中的《海军人工智能框架大纲草案》,主要介绍了海军部(DON)面临的挑战以及如何将人工智能应用与海军关键任务联系起来,并说明了人员配备和组织机构要求、政策考虑以及海军部高效使用人工智能所需的措施。
必要性
人工智能改变了战争的性质,它可以降低海军和海军陆战队员的作战风险,提高任务效率,并带来革命性的新战术和战略,在作战时起到对敌破坏和战场决定性作用。在大国竞争的背景下,各国都在争分夺秒地开发人工智能技术,积极寻求利用人工智能技术的机会。如果美国海军机构没有迅速采取行动正视人工智能的价值,海军和海军陆战队未来可能会失去海上竞争的资格并牺牲整个企业的关键效率和能力。
目的
本文件旨在提供一个灵活的框架,为人工智能在海军的有效使用奠定基础。海军部试图加快海军采用人工智能的速度,并尽快明确人工智能的应用方向。在军事创新的成功案例中,成功不仅仅依赖于技术的发展,还需要有效引导,围绕关键思想实施体制上的转变。而历史某些案例中,由于领导者和机构无法适应新形势,使军事创新无法按期落实。海军部领导层必须参考历史最优方法,在能力、流程和人员等方面进行战略投资,承担一定的技术开发风险,在业界及其他领域寻求合作,通过这些方式大力发展海军领域的人工智能技术。
面临的挑战
为了按规定的速度和规模交付人工智能相关能力,海军部需要根据新作战概念,参考人工智能技术的发展速度及其属性,以与其相匹配的方式调整组织、培训和装备等方面工作。面临的关键挑战包括:
-
应用于作战时的技术复杂性:人工智能在认证、验证和可追溯性方面存在固有挑战;
-
不同的开发环境:研发工作逐渐由商业部门主导,技术发展迅速。海军部需要进行调整,以更快地获取和使用最先进的技术;
-
管理投资回报:考虑效率与时间和金钱的关系;
-
体制转变的难点:变革需要高层领导深思熟虑,慎重管理,同时还需要调动各级人员的主动性;
-
解决缺乏标准化的问题:基础架构、软件基线、网络和数据缺乏互操作性和通用标准,将阻碍在海军部范围内大规模实施人工智能解决方案;
-
利用海军部数据:提供所需数据,供开发成为所需能力;
-
快速进步:强有力的竞争对手将人工智能视为超越美国并获得军事优势的机会。
基本原则
海军部必须遵守最优方法或基本原则,确保人工智能的成功开发和交付,该原则不仅能够促进人工智能的使用,还将为机器人技术、增材制造(additive manufacturing)、超音速、生物技术和先进材料等新兴技术提供机会。
海军分析中心战略方针文件提供的可能适用的原则如下:
-
为人工智能应用中数据的收集、存储、共享和使用提供策略和资源;
-
更新已规划人工智能应用中所需数据的情报和情报要求;
-
解决道德和法律问题,例如减少人工智能训练中数据收集的偏差;
-
开发适用于非确定性自适应系统的测试与评估程序;
-
将迭代开发、试验和评估结合起来,加速学习和进步;
-
考虑系统和标准中的“AI就绪(AI ready)”特征,定期更新;
-
进行鲁棒性培训和教育以培养对人工智能系统的适度信任;
-
分析人机协作,以合理划分作战人员和人工智能系统的工作量;
-
及时跟踪技术重大发展;
-
针对人工智能应用制定政策(包括使用武力的决策),以提高人工智能安全性;
-
制定人工智能系统的出口政策,提高与盟国的互操作性,同时保护关键技术。
适用范畴
想要成功开发人工智能,海军部首先必须普遍接受和理解人工智能的定义及分类,从而设定统一的语言和理解基准。迄今为止,人工智能技术的发展在战略游戏、语言翻译、自动驾驶车辆和图像识别等有限的、明确的领域(即所谓的“狭义人工智能”领域)发挥了作用。这与“广义人工智能”的概念形成鲜明对比,广义人工智能是假设的未来技术,可以在动态、不确定的环境中像人类一样,甚至表现可能远比人类更好。本文件主要介绍“狭义人工智能”以及海军企业如何在执行任务的过程中充分应用该技术。
海军部将使用美国政府整体制定的人工智能定义、分类和标准,符合2019年2月11日的公布的《维持美国在人工智能方面的领先地位的行政命令》以及美国国家标准与技术研究院(NIST)发布的《美国人工智能的领导力:联邦参与制定技术标准和相关工具的计划》。
人工智能应用与人机协同
海军部正在开发一系列人工智能应用。总的来说,这些应用具备“静止”或“运动”的特点。“静止”能力是那些“在软件中虚拟运行的系统,包括规划和专家咨询系统”,存在于物理世界中,包含机器人(技术)和自动驾驶车辆。” 决策辅助和最优化功能是特别适合海军企业人工智能的两种“静止”应用。不同类型的应用具有独立使用或人机协同等不同的使用方式,如图1所示。
图1 不同人工智能应用的人机交互
自主功能包括导航、传感器或武器的分配、后勤或通信功能的提供以及杀伤武器的使用,人工智能可以增强这些功能的有效性:
-
在阴暗、肮脏环境或危险的任务中替代作战人员,减少人力需求;
-
在紧急任务中缩短快速响应时间;
-
与作战人员配合使用,例如自主无人僚机或后勤车辆。
尽管具备这些优势,自主功能也还存在风险,比如可能会受到友方的火力攻击、造成平民伤亡和冲突升级以及在未经设计或编程的环境中会影响有效性。海军部必须采取措施降低风险。
决策辅助工具将机器的优势与作战人员的优势相结合。机器处理大量数据,对数据进行过滤或查找,人类负责理解数据并将其应用于不同的情况中。在复杂而苛刻的环境中,人机协同的能力可以超越人或机器。人机协同的性能优化,需要仔细考虑技术系统性能和人员因素。
最优化功能可以通过人工智能实现。人工智能可以获取大量数据并确定数据处理模式,有助于系统的预先维护,确定备选系统并改善现有系统的性能(例如改善防空系统的跟踪能力)。该功能不会独立对物理行动做出决策,也不能与人类实时交互,但是对有效和高效的海军系统和程序具有重要意义。
海军部希望通过人工智能的人机协同应用获得最大的优势,将优先考虑并主动开发人机协同应用,以便从中获益。为此,海军部将利用专业技术知识以及对认知过程的理解,通过系统设计以及在现实世界中的大量培训和演示来培养对人工智能系统的信任,重点关注系统设计、培训和概念开发。
军事行动中的“观察-判断-决策-行动”(OODA)环显示了人与机器在作战中的可能角色和相互影响,从而了解如何发挥人与机器的优势并弥补不足。海军部的三种人工智能应用在OODA环中发挥的作用不同。自主功能最适合用于人为部署前或机器功能部署期间可以完成的任务。决策辅助功能在每个OODA环中考虑人和机器的优势以提高人机协作的性能,在复杂且需要快速决策的环境中这一功能具有特殊价值(如图2所示)。“判断”阶段可依赖人的评估能力,因此人机协作能力的增强与人的能力相关。
图2 人工智能应用和作战环境
核心目标
海军部聚焦人工智能的六个核心目标领域:人工智能与任务结合、人工智能基础设施、人工智能管理、适应人工智能带来的改变、合作关系和政策,这些领域将促进人工智能的有效应用。
7.1 人工智能与任务结合
海军企业在开发人工智能时采用问题驱动的方法,问题如下:海军面临哪些关键问题?考虑到人工智能技术的要求和局限性,人工智能技术的应用存在哪些问题?海军部采用人工智能技术是为了推进海军任务。技术不断改变作战方式,追溯历史可以发现战场上成功的颠覆性创新最初都是用于需解决迫切的问题。技术成为创新思维的推动力。
人工智能的应用可以降低海军和海军陆战队员的风险、采取破坏性和革命性的激进作战方法;增量式提升当前效能;以及提高管理能力、工具和流程的效率。在资源有限的环境中,海军部将综合考虑自身高优先级需求、现有技术能力和海军面临的独特挑战三个方面的关系来确定人工智能投资的优先级(如图3)。除了对关键海军领域进行投资,海军还将实施一系列以任务为中心的海军人工智能计划,最初目的是改善美国和友方部队的防御能力、协助人道主义援助任务、减少意外伤害和附带损害、协助人工决策以及通过商用应用提高效率。海军部已经根据《保持海上优势》2.0版所列优先事项开展了一些相关工作。
图3 海军部人工智能主要投资领域
7.2 人工智能基础设施
在数据、工具和网络等基础设施的支持下,人工智能的能力得到快速、大规模地提高,可在不同的海军系统和平台上实施。基础设施包括强大且可用的共享数据基础,此外还需要更改一些数据和情报要求以支持人工智能应用。基础设施还包括可重复使用的工具、框架和标准。为此,海军将发挥整个政府(情报界(IC)、NIST和DHS)以及行业和学术界的作用。在大部分情况下,这些合作伙伴开发的功能可以直接使用或在调整后可满足海军部的需求;在特殊情况下,海军部需要量身定制的国防部/海军部解决方案。人工智能基础设施依赖边缘计算和云服务,可根据海军任务要求提供远征和企业级网络功能。
通过参考演示验证和试点项目的结果和反馈以及作战部队的经验,逐步增加海军人工智能基础设施并完善需求。同时,海军部也将借鉴业界、学术界和其他国家的技术进步。海军计算基础设施的采办决策和海军数据战略将利用指数级增长的计算能力,并以较低的价格提供可用的数据存储服务。
7.3 适应人工智能带来的改变
为快速适应,调整后的组织结构中需要灵活的试验和管理机制,包括采用迭代方法确定需求和可能的解决方案、评估风险、发布政策并实现战略、战役到战术级的转变。海军企业需要适应这些变化,确保向海军作战部队和机构提供实用、有效的人工智能解决方案。
海军部需要重组并成立新的领导层和组织结构,以满足人工智能应用的机构要求。机构要求上至海军部对数据和信息需求的管理,下至战术单位人员结构的变化,反映了自主系统的应用越来越普遍。根据海军部统一指挥的原则,还需要指定人工智能全面快速有效发展以及评估目标进度的责任人。
海军将对不同的观点进行快速试验(承担一定的风险),确定人工智能的优先级,促进人工智能在短期内的迅速发展。根据多年经验,海军将建立创新团队,引导不同任务领域的智能发展,并解决人工智能特定的高优先级问题。创新团队将整合知性思维、作战经验、条令和培训、中小型技术企业以及试验机会。
海军将从试验、原型设计及培训等实践中获得经验和教训以完善能力、需求、策略和作战概念,从失败中总结经验,加快学习速度。海军还将研究在必要情况下如何更快速地开发、部署和升级功能,同时也要考虑人员配备、培训和维护等问题。这些研究针对作战部队的使用和反馈,完善认证和验证过程以发挥人工智能的重要作用。
7.4 人员
海军部将邀请美国公司和学术机构的人工智能专家来解决严峻而紧迫的国家安全挑战。海军部将通过轮换分配和协作项目等新方法让外部专家参与海军任务。
海军部必须培养一支具备人工智能知识的工作团队,以便有效地开发、管理和使用人工智能解决方案。同时通过组织培训、调整职业渠道结构以及发布晋升和保留政策,建立一支能够开发人工智能解决方案的技术人员团队。为了有效地管理和使用人工智能,将针对整个海军企业量身定制培训和教育课程,以确保高层领导、指挥官和操作员级别人员的人工智能素养。海军部还将为员工提供专业的发展机会以培养所需的能力(例如数据科学家和工程师),从而融合作战和技术专长,提升员工团队的整体实力。
7.5 合作关系
可靠的合作关系对于海军部成功使用人工智能至关重要。海军部将与业界、学术界、盟国以及美国政府的其他部门合作,推动人工智能在海军领域的应用。
在业界和学术界指导政府进行人工智能研究与开发的时代,海军必须进行调整,最大程度地发挥协作能力,有效地使用最先进的技术。在开发海军部内部人工智能能力的同时,美国海军部将关注业界和学术界人工智能的关键发展,并建立灵活的流程以及时应用这些先进的人工智能技术。海军部将加强与业界和学术界的联系,促进合作、对话、相互理解和信任。
盟国是海军企业的坚强后盾。海军部将与盟国一起努力建立强大的人工智能联盟,最大程度地利用集体资源,确保互操作性和互补能力,以增强安全性并更好地应对新兴威胁。海军部将在计划和要求、作战概念(CONOPS)、系统和政策制定、试验和多边培训等所有阶段保持与盟国的合作关系。
美国政府已在其2019年行政命令和国防部人工智能战略中突出了人工智能的优先地位。因此,海军部以自己的方式努力开发人工智能,在与国防部和整个政府的共同努力下,进一步有效地推进人工智能的应用。
7.6 政策
虽然人工智能可以为海军带来巨大优势,但是人工智能的使用也引起了法律、安全和道德问题。遵循现有政策、新政策及法律机制,海军企业致力于合法、安全和符合道德要求地使用人工智能来执行任务。海军部目前已经具备针对作战和武器系统的法律和道德审查以及安全流程。在此基础上,海军部将根据需求制定和完善政策,提前解决人工智能特定领域内可能会出现的法律、道德和安全问题。其他相关政策包括:
-
新的密级考虑事项;
-
针对无意中造成偏差的核查;
-
合法武器审查的其他标准;
-
人工智能系统的其他认证和验证措施;
-
对机器学习应用中所用培训数据的道德要求;
-
人工智能系统开发和作战使用的政策指南(如国防部指令(DODD)3000.09)。
总结
海军部将优先考虑在海军企业中有效采用人工智能,因为人工智能是超越对手的关键,可降低任务风险和部队风险,改善海军决策能力以及提高效率。海军部将采用问题驱动的方式来开发人工智能,重视人工智能识别和降低风险的能力,海军部对任务、法律、安全和道德的承诺体现了海军和海军陆战队的专业精神。
王璨编译自互联网,戴钰超审定
2019年10月
声明:本文来自防务快讯,版权归作者所有。文章内容仅代表作者独立观点,不代表士冗科技立场,转载目的在于传递更多信息。如有侵权,请联系 service@expshell.com。