如果你看过《猫和老鼠》这样的卡通片，你会认出一个共同的主题：一个难以捉摸的目标躲避着他强大的对手。这场“猫捉老鼠”的游戏——无论是字面上的还是其他方面的——涉及追逐某样东西，而这个东西在每次尝试中都险险逃脱。
以类似的方式，躲避持续不断的黑客攻击对网络安全团队来说是一个持续的挑战。麻省理工学院的研究人员正在开发一种名为“人工对抗智能”的人工智能方法，模拟设备或网络的攻击者，以在真正的攻击发生之前测试网络防御。其他基于人工智能的防御措施帮助工程师进一步加强他们的系统，以避免勒索软件、数据盗窃或其他黑客攻击。
在这里，Una-May O’Reilly，麻省理工学院计算机科学与人工智能实验室（CSAIL）的首席研究员，领导着全尺度学习小组（ALFA），讨论了人工对抗智能如何保护我们免受网络威胁。
问：人工对抗智能可以以什么方式扮演网络攻击者的角色，人工对抗智能又如何表现为网络防御者？
答：网络攻击者存在于一个能力谱上。在最低端，有所谓的脚本小子，或威胁行为者，他们喷洒众所周知的漏洞和恶意软件，希望找到一些没有良好网络卫生的网络或设备。在中间是网络雇佣兵，他们资源更丰富，组织更好，专门针对企业进行勒索或敲诈。而在高端，有一些有时得到国家支持的团体，可以发起最难以检测的“高级持续威胁”（APT）。
想想这些攻击者所调动的专业、邪恶的情报——这就是对抗智能。攻击者制作非常技术性的工具，让他们能够入侵代码，他们为目标选择合适的工具，他们的攻击有多个步骤。在每一步中，他们学习一些东西，将其整合到他们的情境意识中，然后决定下一步该怎么做。对于复杂的APT，他们可能会战略性地选择目标，并制定一个缓慢且低可见度的计划，这个计划微妙到其实施能够逃脱我们的防御屏障。他们甚至可以计划出指向另一个黑客的误导性证据！
我的研究目标是复制这种特定类型的进攻性或攻击性智能，即对抗性导向的智能（人类威胁行为者所依赖的智能）。我使用人工智能和机器学习来设计网络代理，并模拟人类攻击者的对抗行为。我还模拟了网络军备竞赛的学习和适应特征。
我还应该指出，网络防御相当复杂。它们的复杂性是对攻击能力升级的响应而演变而来的。这些防御系统涉及设计探测器、处理系统日志、触发适当的警报，然后将其分类到事件响应系统中。它们必须时刻保持警惕，以防御一个非常大的攻击面，这个攻击面难以追踪且非常动态。在攻击者与防御者竞争的另一面，我和我的团队也在为这些不同的防御前线发明人工智能。
对抗智能还有另一个显著特点：汤姆和杰瑞都能够通过相互竞争来学习！他们的技能不断提高，进入了一场军备竞赛。一个变得更好，然后另一个为了保命也变得更好。这种互惠互利的改进不断向上发展！我们努力复制这些网络版本的军备竞赛。
问：在我们日常生活中，人工对抗智能有哪些例子让我们保持安全？我们如何利用对抗智能代理来领先于威胁行为者？
答：机器学习在确保网络安全方面被广泛应用。有各种探测器可以过滤威胁。它们针对异常行为和可识别的恶意软件进行调优。例如，有一些基于人工智能的分类系统。你手机上的一些垃圾邮件保护工具就是基于人工智能的！
与我的团队一起，我设计了能够执行威胁行为者所做事情的基于人工智能的网络攻击者。我们发明人工智能，使我们的网络代理具备专业的计算机技能和编程知识，使他们能够处理各种网络知识，规划攻击步骤，并在行动中做出明智的决策。
具有对抗智能的代理（如我们的人工智能网络攻击者）可以在测试网络防御时作为练习。大量的努力投入到检查网络抵御攻击的能力上，而人工智能能够对此提供帮助。此外，当我们将机器学习添加到我们的代理和防御中时，它们会展开一场我们可以检查、分析并用来预测在我们采取防御措施时可能使用的对策的军备竞赛。
问：他们正在适应哪些新风险，如何做到这一点？
答：似乎新软件的发布和新系统配置的工程设计永无止境。每次发布都会有攻击者可以针对的漏洞。这些可能是已经记录的代码中的弱点示例，或者可能是新出现的。
新的配置带来了错误或新的攻击方式的风险。当我们处理拒绝服务攻击时，我们没有想到勒索软件。现在我们正在应对网络间谍活动和勒索软件以及知识产权盗窃。我们所有的关键基础设施，包括电信网络、金融、医疗、城市、能源和水系统，都是目标。
幸运的是，很多努力正在投入到保护关键基础设施中。我们需要将这些努力转化为基于人工智能的产品和服务，以自动化其中的一些工作。当然，还要继续设计越来越智能的对抗代理，以保持我们的警觉，或帮助我们练习保护我们的网络资产。
