在这场人机「黑客大战」中,人类战胜了机器,不过可能是最后一次了

在这场人机「黑客大战」中,人类战胜了机器,不过可能是最后一次了

因为 AlphaGo 的出现,「人机大战」这个名词成为了这两年业界最火热的名词之一,不管是在围棋领域还是延伸到其他人与机器可以展开对抗的领域,都出现了此类的比赛。在「网络安全」这个计算机技术的核心领域,也出现了类似的比赛,这就是 CGC(Cyber Grand Challenge,网络超级挑战赛)

CGC 是美国国防部先进项目研究局 (DARPA) 于 2013 年发起的全球性网络安全竞赛,它的目标是建立自动攻防系统对软件的漏洞进行检测、验证和修补,而目前基于漏洞的软件安全攻防很大程度上依赖于人,所以 CGC 的参赛队伍全都是代表着机器程序的战队。这项比赛于 2016 年夏季完成了最终的决赛。在完成了首次的 CGC 竞赛后,DARPA 没有发布后续的计划在最近进行类似于 CGC 的类似竞赛。


在 CGC 结束之后,业界也在期待下一项在信息安全领域的类似比赛,能够推进这个领域内机器自动化及智能化的进程。于是,人与机器网络攻防竞赛(Robo Hacking Game,以下简称「RHG」)平台应运而生。

人机黑客.PNG

在安全领域,人类还暂时领先,但未来终归是机器的

与 CGC 不同的是,RHG 将以机器人攻防、和人机对抗的形式,引入国内外科研院所组成的十余只机器人战队与经验丰富的 CTF 选手在同一平台下一决高下,机器人战队将完全独立的完成以往在互联网环境中只能由人类甚至一个安全团队合作完成的安全对抗行为,为 AI 在信息安全领域的进一步应用提供了推广和验证平台。

来自美国乔治亚大学(University of Georgia)的李康教授是这个项目的灵魂人物,他本人也是计算机系统和网络安全领域的世界级专家。在之前的 CGC 比赛中,他组建的 Disket 战队还闯入了最终的决赛。目前他还兼任奇虎 360 智能安全研究专家。

likang-main.jpg

在他看来,与 AlphaGo 做的事不同,安全领域的智能对抗、智能化、智能算法的应用等都已经被用了很久了。人早已经被机器在安全领域打败,「人工智能在围棋比赛、人脸识别等领域的人类对手是不用机器、不用程序的;安全领域不存在这个问题,安全领域始终都是人机混合。」

所以他再三强调在目前的计算机安全领域,「人机混合」就是常态,所以参加这种比赛的「人类战队」在严格意义上都是「人机组合战队」。而他们组织这次比赛的目标一方面是继续推动安全自动化,争取在未来使纯自动机器能够超越人和机器的组合;另一方面,在安全领域也有很大的人才缺口,而这些都可以用机器的力量来弥补。

回头来看这次比赛的赛况。与 AlphaGo 在围棋界大杀特杀不同,纯机器人战队在和人类战队的比赛中还处于下风。这次比赛有 8 支机器人战队和 4 支人类战队参赛,他们大都来自加州大学河边分校、佛罗里达大学,以及国内的中科院计算所、复旦大学等科研院所,不过也有一些像雷神、IBM 等国外大公司派出队伍前来参赛。

微信图片_20170428164952.jpg

在具体赛题方面,赛题程序具有如下特性:

  1. 32 位 Linux 二进制程序
  2. 静态编译
  3. 堆栈保护关闭、无地址空间随机
  4. gcc 编译(版本 TBA)
  5. 单进程,单线程

同时,所有的赛题均设计为从标准输入接收输入数据,并将结果发往标准输出(网络服务通过管道网络连接标准输入输出)。

而 roboCTF 的漏洞类型包括所有的内存访问异常类漏洞,包括但不限于堆栈溢出、堆溢出和格式字符串漏洞等。

比赛一开始,2 支人类战队在解题方面策略很得当,很快拿到高分手,从结果来看也还是人类领先。「我们可以很好的看到每道赛题都有机器人得分了,只是拿到题目以后,后面的一些手段、战术、高低分配合等等方面跟人类有一定差距」,北京永信至诚科技有限公司副总裁兼 CTO 张凯评价道。

作为拥有 12 年计算机及网络安全行业从业经验和软件开发经验的北京网络协会特聘专家,张凯认为人类在这种比赛中的优势是快速反应能力,「应对不同环境根据自己经验可以快速得分。」但是机器人目前还没有加入这样的策略,「有一些机器人策略好的话很快就能找到,有些调整不好差异就出来了」。但张凯同时表示,如同很多类型的人工智能程序一样,安全领域的机器人也需要学习的过程,如果这个比赛多次使用的话,适应这个策略机器人一定会有更大飞跃,那个时候会更有说服力。

但就像李康所坚信的那样:「我们现在用全自动机器跟人加上机器对抗,但我仍然相信纯自动机器会超过人加机器。」

网络安全的话题还有很多要讲的

而众所周知,网络安全行业一直以来是一个高度依赖个人经验和技术的领域,而人工智能攻防技术有计算快、多任务、学习快、跨领域、不间断等特点,发展人工智能化的网络安全技术有助于发掘系统未知漏洞,检索偏僻的安全隐患,推演未知风险,实现安全自动化。

回头去看,在过去的两年中,大家又学会了几个新词:「白帽子」、「脱库」、「撞库」、「XCode」……当然学习途径是一次又一次影响广泛的网络安全事件。这背后是企业亟待提升的安全能力和大众需要具备的基本安全意识。

百度云安全总经理马杰在之前接受极客公园的采访时就表示,「互联网创业的竞争越来越激烈,在专注于业务上开疆拓土之时,黑客也紧随其后,安全将成为这些企业竞争的核心竞争力之一。」

而毫无疑问,自动化的智能机器将在不久的未来成为人类在这个领域的重要助手。不管是通过 CGC 这样的机器大战还是 RHG 这样的人机对抗,最终的目的都是让机器变得更聪明,同时也让人类在这个过程中获得新的思路。毕竟,不同于图像识别或是围棋这样的领域,在安全领域,人类也在不断地快速成长,这种相辅相成的进步也许能让我们的未来更安全。

到了那时,人类究竟能不能打败机器还重要吗?

人机大战黑客网络安全
关注极客公园公众号
反馈