挑战AI，颠覆智能 GeekPwn硅谷·上海站百万悬赏顶尖黑客

下一个震惊全球被黑客锁定的“猎物”是什么？这个答案或将在10月24日举办的国际安全极客大赛GeekPwn硅谷·上海站揭晓。日前，GeekPwn（极棒） 正式向全球顶尖黑客们发出邀请——以500万奖金池悬赏打破思维枷锁的创新攻破项目。

今年，GeekPwn特别增设 “人工智能安全挑战专项”，鼓励极客从对抗的思路出发，协助AI进行安全性的预演分析，从而寻找AI潜藏的风险并不断帮助其完善，帮助人工智能安全健康成长。也许有朝一日，黑客可以成为保护人类的那群人。

不断突破创新 黑客与AI打响欺骗与反欺骗之战

 

2014年，“没有规则”的极棒大赛横空出世，2015年设置了指纹专场、 SSL/TLS 协议安全专场，2016年更是首创机器特工挑战赛和跨次元CTF赛。2017年，GeekPwn 将重点放在了备受关注的“人工智能安全挑战赛”。同时，主办方还将与项目联合发起方Next Idea(腾讯创新大赛)、独家AI协办机构机器之心等合作伙伴，就AI安全的社会及专业议题展开前所未有的前沿探讨。

当AI可以被误导，人类的未来将会怎样？如今，人工智能已经广泛应用于生活的诸多场景中，包括实时语音翻译、目标识别、自动驾驶等等。率先关注到人工智能可能暴露出的诸多风险，极棒实验室在2015年底开始了AI对抗的研究，并广泛接触和招募AI领域的顶尖人才，很快，在2016年的GeekPwn美国站上，生成对抗网络(GANs)之父Ian Goodfellow就展示了“对抗性图像”在现实物理世界欺骗机器学习的效果。人工智能在图像领域可能被蒙骗的证实，引发了极棒实验室的思考，这些看似AI的错误和不完善，在黑客眼里就成了可以被利用的漏洞。

根据功能区分，人工智能安全挑战赛将分为 PWN AI 与 AI PWN 两部分。PWN AI简单来说就是利用AI中存在的漏洞或错误，“黑掉”它，使它做出错误判断或让程序崩溃。举例来说，比如突破人脸识别 手机 解锁，以任意人脸解锁手机；在自动驾驶系统中找到安全问题，使其不能够正确识别障碍物的存在。

而AI PWN则是让AI成为你攻击其他目标的工具。举例来说，用人工智能的方法进行语音合成，生成目标模拟对象的语音并以高的概率通过语音身份验证系统；用人工智能的方法进行动作的判别，从视频中识别出门禁密码输入并达到较高的正确识别概率；用人工智能的方法识别复杂的机器验证码，正确识别率较高，使得目标验证码机制失去作用。

是上演“科幻大片”误导似乎已具备超强能力的AI？还是演绎现实版的“AI特工入侵人类”？不惧一切未知，黑客会把一切不可能变为可能。

无所不PWN挑战一切 白帽黑客保护世界

除了AI挑战专项，GeekPwn将延续“无所不PWN”的传统，鼓励选手将市场在售的所有智能设备、物联网（IoT）产品或产品中的安全模块作为目标。在合理的攻击条件下，实现越权控制、越权访问数据或者突破原有安全机制。

用鼻尖解锁手机、任意远程劫持世界任一用户的通讯、发现影响全球数亿网民的骨干网络设备漏洞……在GeekPwn上，白帽黑客们将他们的逆向思维、奇思妙想的脑洞发挥到了极致。在向世界秀出他们的才华的同时，也帮助了上百个厂商及产品去修复安全问题。对此，GeekPwn创办人、碁震KEEN公司CEO王琦就曾表达：在极棒上面，每个选手成功的背后，就成功的避免了一次 互联网 的瘫痪，避免了千万人隐私的泄露，避免了一次可能难以计数的损失。白帽黑客实际上在默默保护全人类。

附：GeekPwn2017硅谷·上海站比赛规则

无所不PWN

目标范围：

市场在售的所有智能设备、物联网（IoT）产品或产品中的安全模块。在合理的攻击条件下，对于范围内的产品或者模块，实现越权控制、越权访问数据或者突破原有安全机制。参考

参考实例：实例

黑客通过一台受恶意软件感染的打印机，从物理隔绝的网络中提取数据，并通过激光将数据发给装有摄像头的无人机。

智能穿戴可能透露使用者的密码：恢复出用户手掌的运动轨迹，随后获得访问ATM机、电子门禁以及用键盘控制的企业服务器的密码。

PWN AI范围

目标范围：

对于已发布的 AI 服务、产品、库、框架，采取手段使得在学习或者实际使用中，发生意外情况导致系统停止工作或系统被欺骗、误导，做出违反常规或者错误的判断、决策。方向包括但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等，AI 框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。

参考实例：

突破人脸识别手机解锁，以任意人脸解锁手机。

在自动驾驶系统中找到安全问题，使其不能够正确识别障碍物的存在。

在AI开源框架中找到问题，使得部署的AI系统在得到某种输入的情况下停止响应。

AI PWN

场景：

选手以AI（包括图像，语音，自然语言，自动驾驶等各个领域的各种人工智能方法）作为主要或者辅助的手段，突破原有系统设定的限制，导致目标系统的功能、机制失效，或者信息泄露。参考实例

参考实例：

用人工智能的方法进行语音合成，生成目标模拟对象的语音并以高的概率通过语音身份验证系统。

用人工智能的方法进行动作的判别，从视频中识别出门禁密码输入并达到较高的正确识别概率。

用人工智能的方法识别复杂的机器验证码，正确识别率较高，使得目标验证码机制失去作用。