从理论上讲,能够入侵人工智能(AI)系统的技术是另一个更强大的AI系统。这也是美国陆军将AI能力集成到无人机系统的原因。AI将提供终极网络安全能力。

一、背景

根据P&S市场调查公司发布的报告,私营领域的网络安全人工智能发展迅猛,到2023年预计将达到182亿美元。促进其增长的原因很大程度上是为保护企业自身免遭网络攻击而使用更好的威胁学习算法。

陆军本月宣布授予史塞克(Stryke)工业公司及其分承包商蝎子计算机服务公司合同,对无人机进行AI升级。陆军希望通过将AI系统集成至通用地面控制站来帮助运行无人机并提供最强大的网络安全。蝎子计算机服务公司首席执行官沃尔特·奥布莱恩表示,网络安全领域的人工智能应用是一场军备竞赛。目前,陆军的无人机系统由该公司的AI系统运维。此外, DARPA在2016年将人工智能以及如何提升网络安全作为一项主要任务,旨在探索能以机器速度发现和维护软件漏洞的能力。

二、人工智能系统ScenGen

奥布莱恩称,该公司的人工智能系统“情境发生器”ScenGen可使操作员控制“捕食者”无人机,形成防御性或进攻性蜂群。

用途与性能: ScenGen可用于作战规划、试验内部系统和自动化回归测试,主要确保增加更多代码时,不会破坏当前已有代码。ScenGen能以极快的速度运行,其每90分钟的思考能力需要人花费250年才能完成。

影响: ScenGen可能对网络安全领域造成的影响最大。AI系统的复杂性和适应能力意味着它们可对网络攻击迅速作出反应,并能甄别并防护进入系统的每个潜在入侵点。

潜在风险:如果一个更智能的人工智能(使用量子计算的人工智能)攻击像ScenGen这样的系统,结果将是灾难性的。目前,这种系统还不存在,但也只是时间问题,可能在未来几十年被研发出来。路易斯维尔大学副教授兼网络安全实验室主任Roman Yampolskiy表示,如果被更强大的机器攻击,即使是用于提供网络安全的人工智能软件也面临被攻击的风险,包括用于入侵检测和防病毒软件的网络安全系统都会受到攻击。

防护手段:对ScenGen最好的数字化保护是ScenGen本身,同时也采取了其他安全措施以防止AI系统落入敌手。源代码永远不会连接到互联网,并处于“锁定和密钥”之下。为客户设计的代码只能在获得使用许可的情况下用于特定主题领域,如用于无人机的代码不会用于直升机。而且该系统在未得到授权的情况下不会被移动,因此从物理层面上讲,安全性极高。另外该系统因使用公司自己研发的语言而非传统编码语言,在使用上,难度极高,不会被人轻易掌握使用方法。

三、未来的AI量子计算系统

未来ScenGen将被AI量子计算系统淘汰和破解,因此目前必须做好准备,迎接量子计算机的公开使用以及由其运行的复杂AI系统。他认为,该系统犹如网络核武器,如果下一场战争是一场网络战争,那么在数学方面领先的一方将会取胜。

声明:本文来自中国指挥与控制学会,版权归作者所有。文章内容仅代表作者独立观点,不代表士冗科技立场,转载目的在于传递更多信息。如有侵权,请联系 service@expshell.com。