机器人为五角大楼寻找软件漏洞

去年年底，互联网基础设施公司Cloudflare的安全工程师大卫·海恩斯(David Haynes)发现自己在凝视一张奇怪的图像。“这纯粹是胡言乱语，”他说。“一整串灰色和黑色的像素，由机器制造。”他拒绝分享这张照片，称这会带来安全风险。

海恩斯的谨慎是可以理解的。这张图片是由卡内基梅隆大学(Carnegie Mellon University)剥离出来的名为ForAllSecure的初创公司制作的，该工具通过探测软件来发现未知的安全漏洞。海恩斯一直在Cloudflare软件上对其进行测试，该软件可以调整图像大小以加快网站速度，并向其提供了几张样本照片。Mayem将它们突变为有故障的、受诅咒的图像，通过触发一个未被注意到的漏洞使照片处理软件崩溃，这一弱点可能会让支付Cloudflare以保持网站平稳运行的客户感到头疼。

自那以后，CloudFlare已将Mayhem作为其安全工具的标准组成部分。美国空军、海军和陆军也使用过它。上个月，五角大楼授予ForAllSecure一份价值4500万美元的合同，以扩大美国军方对Mayhem的使用。这个部门有很多漏洞要找。2018年的一份政府报告发现，国防部在2012年至2017年期间测试的几乎所有武器系统都存在严重的软件漏洞。

“混乱”还不够复杂，不足以完全取代人类漏洞搜索者的工作，后者利用软件设计知识、代码阅读技能、创造力和直觉来查找缺陷。但ForAllSecure的联合创始人兼首席执行官大卫·布伦利表示，该工具可以帮助人类专家完成更多工作。世界上的软件存在比专家们有时间发现的更多的安全漏洞，而且每分钟都有更多的漏洞。布卢姆利说：“安全不是安全与否的问题，而是你移动的速度有多快的问题。”

混乱起源于2016年在拉斯维加斯一家赌场舞厅举行的一场不同寻常的黑客大赛。数百人到场观看由五角大楼研究机构DARPA主办的网络大挑战。但舞台上一个人也没有，只有七台灯火通明的计算机服务器。每个服务器都托管了一个机器人，它试图发现并利用其他服务器中的漏洞，同时也找到并修补自己的漏洞。八个小时后，由布卢姆利卡内基梅隆安全实验室的一个团队制作的“混乱”赢得了200万美元的最高奖金。它的洋红色点亮的服务器降落在史密森尼博物馆(Smithsonian)。

仍然是卡内基梅隆大学教授的布卢姆利说，这段经历让他确信，他的实验室的创造在现实世界中可能是有用的。他把他的团队机器人的进攻能力放在一边，推理防御更重要，并开始将其商业化。“网络大挑战表明，完全自主的安全是可能的，”他说。“计算机可以做得相当好。”

中国和以色列政府也是这样认为的。两家公司都提供了合同，但ForAllSecure与山姆大叔签约。它与国防创新小组(Defense Innovation Unit)签订了一份合同，国防创新小组是五角大楼的一个组织，试图将新技术快速带入美国军方。

ForAllSecure受到挑战，试图通过寻找美军使用的带有军用变体的商用客机的控制软件中的缺陷来证明大爆炸的勇气。几分钟后，自动黑客发现了一个漏洞，随后飞机制造商对该漏洞进行了验证和修复。

Mayhem发现的其他漏洞包括今年早些时候在数百万网络设备上使用的OpenWRT软件中发现的一个漏洞。去年秋天，该公司的两名实习生从Netflix的漏洞赏金计划中获得了一笔奖金，因为他们使用Mayhem发现了一个软件缺陷，该软件允许人们从手机向电视发送视频。

布伦利说，汽车和航空航天公司的兴趣特别强烈。汽车和飞机越来越依赖软件，这些软件需要可靠地运行多年，而且很少更新，如果有更新的话。

Mayhem仅适用于基于Linux的操作系统的程序，并以两种方式查找错误，一种是散布的，另一种是更有针对性的。

第一种是一种称为模糊的技术，它涉及用随机生成的输入(如命令或照片)轰炸目标软件，并观察是否有任何触发可利用的崩溃。第二种称为符号执行，涉及创建目标软件的简化数学表示。可以分析这一简化的替身，以识别真实目标中的潜在弱点。

近年来，模糊技术在计算机安全领域的应用越来越广泛。去年，谷歌发布了一款模糊工具，称在其Chrome浏览器中发现了超过1.6万个漏洞。但Cloudflare的海恩斯说，这项技术在工业上仍然不常用，因为模糊工具通常需要对每个目标程序进行太仔细的调整。他说，ForAllSecure已经精心设计了Mayhem，使其更具适应性，使Cloudflare能够更常规地使用毛发。海恩斯说，符号执行可以发现更复杂的错误，以前主要用于研究实验室。

亚利桑那州立大学(Arizona State University)教授王若宇(音译)希望，大混乱只是计算机安全更加自动化的未来的开始，但他表示，这将需要寻找漏洞的机器人与人类更多地合作。

王说，混乱表明自动化可以做有用的工作，但现有的自动漏洞查找器对复杂的互联网服务或软件包没有太大帮助。最好的软件远不够聪明，无法像人那样理解程序的意图和功能。混乱的能力比任何人都更快地尝试许多不同的事情，这是不可替代的。“自动查找漏洞方面的许多难题远未得到解决，”王说。

王是一支名为Mechanical Phish的队伍的一员，该队伍在2016年DARPA锦标赛中获得第三名，这场锦标赛为大爆炸提供了起点。他现在参与了该机构的一个名为国际象棋的新研究项目，试图制作更强大的漏洞查找软件，利用人类来帮助处理机器无法摸索的东西。“现在最先进的自动化不知道什么时候会碰到障碍，”王说。“它应该意识到这一点，并咨询人类。”今天的“大混乱”自己寻找细菌，但它的后代可能是团队成员。