编者语

本文是整理了高文院士在第十五届中国电子信息技术年会“网络空间智能安全”专题论坛中的报告,以下是报告的部分内容。

(一)人工智能发展历程和趋势

人工智能目前正在经历第4个阶段的发展。第一个阶段是图灵机模型和图灵造脑设想的诞生,这为人工智能铺垫了前期的基础。第二个阶段,从1956年开始,是人工智能开始发展最好的一个阶段,人们对于人工智能的关注度和期望值都很高,但是很快进入了瓶颈期。第三个阶段,1986年神经网络模型在计算可信后,人工智能进入了以知识工程、专家系统为主的阶段,但由于知识工程发展的速度赶不上互联网的发展,人工智能再次进入低迷期。直到2006年,谷歌Geoffrey Hinton和facebookYann LeCun、Yoshua Bengio发表了关于深度神经网络方面的重要论文,人工智能开启了第四个阶段的发展。

目前,这一阶段主要以深度神经网络为主,深度神经网络主要基于大数据、算力、算法,但目前的智能仍不能与人类的智能相比,仍处于初级阶段,需要再进化。而类脑计算(强人工智能)有可能是一个新的天地。智能未来要向“智能为用”、“机器为本”、“学习为魂”的强人工智能发展。

国际上,美国非常重视人工智能的发展。2016年5月,白宫成立人工智能委员会。2016年10月连续发布了两个重要战略文件《为人工智能的未来做好准备》和《国家人工智能研究与发展战略规划》,将人工智能上升到了国家战略层面。2019年6月,发布新版《国家人工智能研究和发展战略计划》。

中国工程院从2015年7月到2016年5月,组织撰写《中国人工智能2.0建议》。2017年7月,国务院发布了《新一代人工智能发展规划》。

中国人工智能发展的四个优势和四个劣势。优势是:1.国家政策的支持,强有力的战略引领。2.丰富的数据资源和应用场景。3.青年人才储备成长快。4.开放的市场环境。差距是:1.基础理论和原创算法差距较大。2.高端芯片、关键部件、高精度传感器等基础薄弱。3.还未形成具有国际影响力的人工智能开源开放平台。4.高水平人才不足。

(二)强人工智能与类脑计算的发展路线

现在的人工智能系统都是弱人工智能,希望未来的人工智能向强人工智能演进。所谓弱人工智能,也称专用人工智能,是指完成特定智能任务或解决特定智能问题的人工智能。专用人工智能由于功能单一,大多可以基于大数据实现,本质上是统计学以及拟合函数实现,实际上并不能真正地理解问题,也无法解释和融合推理。至今为止出现的人工智能都是弱人工智能。强人工智能,也称通用人工智能,即真正能推理(Reasoning)和解决问题(Problem-Solving)的智能机器。这样的机器可以是有知觉的和有自我意识的。

人工智能未来将向强人工智能演进,需要引进新的机器学习方法。这种方法可以在有限的数据中“悟”出一些道理。这需要更大的数据、更大的算力作为基础,提炼出模型,然后进行迁移和演化。要向自然界学习,人是如何思考的,要想解决这些问题,要在深度学习里面找到更可信的参考模型。

聚焦人类视觉,从哪下手,使得它更容易变成强人工智能。人的大脑很多部分是与人类感知相关的,视觉是7亿年进化的结果,人类的大脑只相当于25W功耗的机器在运作,然而这25W能力比现在最厉害的超算在感知上更精准更有效,这就是进化的结果。通过这个结果到底我们能学习到什么?大脑是高效、理想的系统,目前,我们对大脑和人体的智能系统只认识了微观,宏观还未深入。人类是高效的动力学系统,对周边世界有认知能力,对认知是基于神经科学,通过这些运行功能模拟,解析仿真,功能的模拟仿真,就可以慢慢理解宏观。

如果有一个好的模型,从类脑计算推进整个人工智能的进一步的发展,这个演进类脑计算就是推进人工智能发展的动力之一。虽然现在的人工智能对于问答、视听和学习已经做的比较理想,但是仍然无法解释意识怎么工作的。作为人的一个参照,我们要构造一个环,从大脑神经网络解析、电子大脑系统仿真、理解机器智能、理解大脑,类脑或电子大脑的系统仿真,通过这些仿真去理解机器是什么样的模型,然后再理解大脑,循环反复,通过螺旋上升,对整个类脑计算可能会有一个更好的结果。

(三)应对强人工智能发展的安全对策建议

强人工智能面临的安全问题更为重要,需要更加严格的管控。主要有3个安全风险点:1.模型的不可解释性。2.算法和硬件的不可靠。3.自主意识的不可控制。

针对这些风险设定一些风险评估的要素:1.能力风险。2.动机风险。3.行为风险。有了这些就可以制定一套评估方案和方法,用它去指导对这个系统的安全性。

风险预防策略从理论及技术研究阶段考虑包括:1.完善理论基础验证,并实现模型的可解释性。2.严格控制强人工智能的底层价值取向。3.实现技术的标准化。从应用阶段考虑包括:1.预防认为造成的人工智能安全问题。2.对人工智能进行动机选择。3.为人工智能获取人类价值观。4.应对强人工智能的国际合作必要性。5.应对强人工智能的人才培养重要性。

最后,高文院士讲到:“祸兮福所倚,福兮祸所伏”,中国在人工智能发展上有弱势也有优势,应该积极开拓,勇做头雁。

声明:本文来自网络空间安全科学与技术,版权归作者所有。文章内容仅代表作者独立观点,不代表士冗科技立场,转载目的在于传递更多信息。如有侵权,请联系 service@expshell.com。