1024 程序员节这天,黑客们向人工智能发起了攻击

摘要

Keen 邀请黄健翔来主持 GeekPwn,是希望有更多人能够关注黑客这一群体。

你眼中的黑客是怎样的?

站在台上,slipper 正玩着手机,像是刷到了有趣的动态,他脸上带着愉悦。

「你还在玩手机?你在比赛啊!」活动发起人王琦冲他喊道。王琦是这一环节的评委,他面前的这个小伙子将会在接下来的 20 分钟里破解苹果最新发布的 iPhone 8 手机。

slipper 和王琦


不一样的黑客

这里是位于上海浦东的喜马拉雅中心,Keen 每年 10 月 24 日都会在这里举办 GeekPwn 黑客大会,这是极客公园第三年受邀前来。

大会上第一个登场挑战的选手是 tyy,她是一个毕业于浙江大学计算机系的女生,上台之后以外行身份呈现比赛的主持人黄健翔连呼好几声,「她看起来也太无害了吧。」

tyy 挑战的是破解汉王的人脸识别门禁系统,GeekPwn 组委会给她设定了 20 分钟的时限,她要在这 20 分钟之内入侵这个人脸识别门禁系统,然后将评委的人脸数据换成自己的。

倒计时开始,作为主持人的黄健翔激动地跑过来跑过去,看一看人脸识别的设备,又去瞅了瞅 tyy 的电脑。

「我还是跟你唠嗑吧,」黄健翔转向评委,「反正我看也看不懂。」

话音刚落没多久,tyy 举起了自己的手,她觉得自己成功了,这时候倒计时还有 17 分多。

评委让 tyy 走到门禁系统前,刷的一下,能打开了。

「挑战成功!」黄健翔激动地说道。


在赛后的专访中,tyy 解释说她其实并没有直接攻破人脸识别的系统,而是通过门禁机器的漏洞入侵到系统中,「是设备层面的破解。」

也就是说,在面对涉及人工智能系统的设备时,黑客并不需要直接破解 AI 系统,通过设备上的一些漏洞来进行破解同样可以达到最终的目的。

tyy 将这个漏洞反馈给了 GeekPwn 组委和汉王的厂商,后续厂商之主要推送一个漏洞修复的补丁即可。

在接下来的比赛和表演中,虽然因为网络连接和蓝牙干扰等问题,选手的表现也收到了一定程度的影响,但有惊无险,所有参赛者都完成了对目标的攻破。


iPhone 的「安全人设」崩了

iPhone 在人们心中一直有一个安全性很强的印象,曾经 FBI 还因为无法破解嫌疑犯的 iPhone 而与苹果进行协商,这样的故事广为传颂,在大家眼里,连 FBI 都没辙的苹果手机毫无疑问是安全的象征,但今天,在 GeekPwn 的现场,一个年纪轻轻的小伙在在十几分钟内就破解了 iPhone。

上比赛正式开始前 slipper 表现得非常淡定,事实上他也是 GeekPwn 大会的常客,他曾在 2015 年的比赛中因为破解安卓手机的 Root 权限而入选了 GeekPwn 名人堂,又在 2016 年的比赛中成功破解了 PS4。

因为大型活动现场的网络非常不可控,因此需要网络连接的选手在比赛中会因为网速过慢而影响到破解的过程。slipper 就遇到了这种情况。

比赛开始几分钟后,原先淡定的 slipper 表情紧张了起来,不一会儿,他索性端起电脑,走到路由器边上跪在地上继续破解。

十多分钟后,slipper 表示破解成功,摄像头对准他的电脑屏幕,是黄健翔刚刚在 iPhone 8 上留下的自拍,「挑战成功!」

紧接着评委王琦解释道,网络情况好的话,这个过程应该不需要一分钟。台下顿时一片嘘声,只要不到一分钟,最新版的 iPhone 就能被破解。


「因为黑客的存在,安全问题才能被解决」

被称为「大牛蛙」的王琦是 GeekPwn 大会的发起者,也是主办方 Keen 的创始人兼 CEO,他曾带领 Keen 团队在全球顶级的黑客大赛 Pen2Own 上创造了连续三年冠军的传奇。


「我们叫自己极客,而不是黑客,我们并不希望让别人以为我们搞破坏。」王琦曾这么说道,事实上,就像这次破解 iPhone 一样,虽然每次 GeekPwn 大会都会给观众带来一定程度的「恐慌」,但王琦并不希望大众过多地去「惧怕」黑客。

「我们从来不希望公众恐慌,我们希望厂商重视。漏洞是客观存在的,大家应该感到高兴,因为这些问题会被修复的。我们也是普通的消费者,能注意到一个地方给消费者一个建议,就是有意义的。怕泄露隐私,重要隐私不要放到网络上,不要储存敏感信息,但凡能加密的地方就加密,能不储存就不储存,这是常规的一些做法。」王琦在赛后的专访中说道。


每一年王琦都会重复类似的话题,他希望人们关注安全行业,关注黑客,「我们希望这个行业研究安全的人好起来,人好起来这个行业才能好起来,漏洞会更少,我们的生活也会更加安全。」

「安全问题从来不是因为黑客才存在的,恰恰是因为黑客发现而被消灭。」王琦在开场白中说道。


黑客能战胜人工智能吗?

这次 GeekPwn 的主题更多着重在人工智能上,在人工智能时代,强大如 AlphaGo,黑客还能制约住机器吗?

除了上面提到的人脸识别,参赛者还破解了包括天猫精灵在内的诸多设备的声纹识别,仅通过半小时的声音素材,就在现场快速合成出一句临时指定的话,从而破解各种声纹识别设备。

但评委郑方教授表示,虽然目前市面上的一些带声纹识别的智能语音产品对安全性的考虑普遍不足,没有防攻击技术的支撑,但就生物特征识别技术的发展而言,声纹本身因为语音信号所含信息量的丰富性,反而是最安全的生物特征。

除此以外,还有利用人工智能技术的破解项目。

中国金融认证中心的团队就利用了深度学习「DeepWriting」的系统,打造出一个机械手臂,在现场模仿了中国著名科幻作家陈楸帆的字迹,达到了肉眼难以辨别的逼真程度。


至于对人工智能系统的直接破解,王琦表示难度非常高,他们会在后续的活动中继续跟进这一领域,「人工智能有很大的特点,在深度学习的时候,我们反推时得不到它的实现过程,也不知道它是怎么失败的,如果有一天它被黑客干扰,修复起来可能就很困难,不会像今天这样把漏洞填填补补就行了。」

打开极客公园App阅读更多内容

最新文章

极客公园

用极客视角,追踪你最不可错过的科技圈。

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

顶楼

关注前沿科技,发表最具科技的商业洞见。