机器学习算法可改进安全解决方案，帮助人类分析师更快地检测威胁以及修复漏洞，但同时，机器学习也可助力黑客发起更大规模更复杂的攻击。

对于信息安全行业来说，机器学习是一项突破性技术，它被定义为“计算机可自己学习的能力”。该技术可帮助安全分析师改进所有安全工作，从恶意软件和日志分析到更快地发现和修复漏洞等，机器学习还可改善端点安全、自动化重复任务，甚至还可减少导致数据泄露的攻击可能性。

这使得人们相信，这种智能安全解决方案可比传统工具更快地发现和阻止下一个WannaCry攻击。J.Gold Associates公司总裁兼首席分析师Jack Gold称：“机器学习仍然是一个新兴领域，但这显然是未来的发展方向。人工智能和机器学习将极大地提高安全性。”

“面对数据和应用程序的快速发展，我们必须利用基于AI的自动化系统来分析网络流量及用户交互以确保安全性，除此之外，真的别无他法。”

可问题是，黑客也知道这一点，他们也期望构建自己的AI和机器学习工具来发起攻击。

网络罪犯如何利用机器学习？ 

现在的罪犯越来越趋向组织化，并且黑市提供广泛的攻击服务供其选择，可以说安全防御可能赶不上网络罪犯创新的速度。同时，考虑到机器学习和深度学习等技术尚未开发的潜力，网络罪犯的攻击能力非常令人担忧。

“我们必须认识到，机器学习、深度学习和人工智能等技术将成为未来网络防御的基石，但我们的对手也正在竭尽全力部署和利用这些技术，”McAfee公司首席技术官Steve Grobman称，“在网络安全领域，常常是这样的情况，由技术放大的人类智能将是攻击者和防御者之间‘军备竞赛’的决胜因素。”  

赛门铁克公司首席技术官Nick Savvides表示：“这是我们在网络安全领域看到AI与AI对决的第一年。”攻击者将能够更有效地探索受感染网络，而这又迫使安全厂商开发更自动化和智能的解决方案。

Darktrace公司技术主管Dave Palmer指出：“自动响应是网络安全的未来。机器学习算法可采取智能的有针对性的修复措施，它可减缓甚至停止正在进行的攻击，同时仍然允许正常业务活动继续进行。”

不过，目前我们还没有听说过基于机器学习的攻击，但据称某些技术已经被犯罪团伙所利用。

1. 规避型恶意软件

对于网络罪犯来说，创建恶意软件主要是手动操作，他们会编写脚本来构建病毒和木马程序，并利用rootkit、密码提取器等工具来协助传播和执行过程。

如果他们能加速这个过程呢？机器学习是否可帮助创建恶意软件？

在2017年，一篇题为《Generating Adversarial Malware Examples for Black-Box Attacks Based on GAN》的论文中展示了第一个利用机器学习来创建恶意软件的示例。在该论文中，作者介绍了他们如何构建基于生成对抗网络（GAN）的算法来生成对抗恶意软件样本–这些样本可绕过基于机器学习的检测系统。

另外，在2017年DEFCON大会中，安全公司Endgame向与会者展示了他们如何利用Elon Musk的OpenAI框架创建定制化恶意软件，而让安全引擎无法检测。Endgame的研究是利用看似恶意的二进制文件，并通过更改一些部分，让代码对防病毒引擎显示为良性且可信。

同时，其他研究人员预测，机器学习最终可能会被用来远程修改代码-这是对多态恶意软件的扩展。

2. 用于可扩展攻击的智能僵尸网络 

Fortinet认为，2018年将是智能化僵尸网络（hivenet）和集群机器（swarmbot）的一年，我们可能会看到越来越多“智能”IoT设备被利用来攻击有漏洞的系统。Fortinet公司全球安全策略师Derek Manky表示：“它们将能够相互通信，并根据本地共享情报来采取行动。此外，僵尸机器会变得更智能，它们可自己执行任务，而不需要僵尸网络操纵者的指示。智能化僵尸网络将成倍增长，并可同时攻击多个受害者，还可阻碍缓解和响应措施。”

Manky称，这些攻击还没有开始利用集群技术，这会使智能化僵尸网络从过去行为中自我学习。集群技术是AI的子领域，它被定义为“分散的自组织系统，自然或人造的集体行为”。现在已经应用于无人机和机器人设备中。

3. 高级鱼叉式网络钓鱼邮件变得更智能

攻击者利用机器学习的另一种方式是将文本-语音、语音识别和自然语言处理（NLP）等算法用于打造更智能的社会工程攻击。毕竟，通过经常性的神经网络，你已经可以教授这种软件写作风格，因此，在理论上，钓鱼邮件可变得更复杂且更可信。而且，机器学习可推动高级鱼叉式网络钓鱼邮件来针对高知名度个人的攻击，同时自动化整个过程。这些钓鱼系统可接受真正邮件的训练，学习如何让邮件看起来令人信服。  

在McAfee实验室对2017年的预测中称，网络罪犯将更多地利用机器学习来分析大量被盗记录，以识别潜在目标，并针对这些目标构建非常逼真的邮件。

同时，在2016年美国黑帽大会，John Seymour和Philip Tully发表论文《Weaponizing data science for social engineering: Automated E2E spear phishing on Twitter》，其中介绍了一种神经网络学习可向某些用户发送钓鱼推特。该论文介绍的SNAP_R神经网络经过鱼叉式钓鱼渗透测试数据的训练，可从目标用户发帖内容（以及用户发送的推特或关注的用户）中动态提取主题，让钓鱼邮件更可能被目标点击。随后事实证明，这个系统非常有效。在针对90名用户的测试中，该框架的成功率在30%到60%之间，这与手动鱼叉式钓鱼和群发钓鱼邮件相比有相当大的改进。

4. 威胁情报可能被利用

对于机器学习，威胁情报的作用饱受争议。一方面，大家普遍认为，在误报时代，机器学习系统可帮助分析师识别来自多个系统的真实威胁。Recorded Future首席技术官兼联合创始人Staffan Truvé称：“在威胁情报领域应用机器学习可带来两个方面的优势。”  

“首先，处理和分析如此庞大的数据量几乎不可能单靠人力完成，包括对其中复杂关系的分析。结合机器与分析师意味着你可比以往任何适合都更有效地发现和响应新出现的威胁；其次是自动化，虽然我们作为人类可完成所有这些任务，但利用这项技术可让我们处理更多的任务。”

然而，也有人认为，网络罪犯会再次适应这些警报。McAfee公司的Grobman此前曾指出，攻击者将利用该技术来轰击系统，从而让常见机器学习模型产生大量误报。当目标重新校准其系统来过滤误报时，攻击者就可通过机器学习系统发送真正的攻击。

5. 未经授权访问

早在2012年，Claudia Cruz、Fernando Uceda和Leobardo Reyes三位研究人员就展示了机器学习用于安全攻击的示例。他们利用支持向量机器（SVM）来攻击在reCAPTCHA镜像运行的系统，准确度高达82%。随后所有验证码机制都得以改进，而这些研究人员利用深度学习才再次攻击CAPTCHA。在2016年，他们又发表了一篇文章详细介绍如何利用深度学习以92%的准确度来攻击simple-captcha。

另外，去年黑帽大会的“I am Robot”研究揭示了研究人员如何攻击最新的语义图像CAPTCHA，并对各种机器学习算法进行了比较。该研究承诺可对谷歌的reCAPTCHA发起准确度高达98%的攻击。

6. 感染机器学习引擎

一种更加简单而有效的攻击技术是感染用于检测恶意软件的机器学习引擎，让其失去作用，正如过去攻击者对防病毒引擎所做的那样。这听起来很简单；机器学习模型从输入数据中学习，如果数据池被感染，那么输出也会受影响。另外，来自纽约大学的研究人员展示了卷积神经网络（CNN）（例如谷歌、微软和AWS）如何被攻击，并产生错误（但受控制的）结果。

本文翻译自CSO Online

声明：本文来自士冗科技，版权归作者所有。文章内容仅代表作者独立观点，不代表士冗科技立场，转载目的在于传递更多信息。如有侵权，请联系 service@expshell.com。