GeekPwn2019招募顶级AI黑客：“声色”过招 以AI欺骗AI

过去的一年里，全球人工智能展现了强大的力量，对消费者的日常生活产生了巨大影响——例如，音乐、视频等网站的智能推荐服务，代替手输密码的刷脸识别系统……当我们开始逐渐适应这些新技术的同时，先人一步发掘安全隐患的白帽黑客们正在孜孜不倦地搜寻AI技术应用的安全漏洞，寻找对抗样本领域的新线索。

作为全球首个关注人工智能与专业安全的前沿平台，GeekPwn2019 CAAD全新升级，在图像识别的基础上加入语音识别领域的对抗攻击与防御内容，设立两项独立的对抗样本挑战赛—— “ CAAD CTF 图像对抗样本挑战赛”和“CAAD 语音对抗样本挑战赛”。在对抗样本的诱导下，AI会发生哪些令人大跌眼镜的错误识别？如果你有信心利用技术手段成功实现对AI的瞒天过海，那就不要错过GeekPwn 2019的CAAD比赛，快来现场与AI“声色”过招吧！

眼见非实，以AI“致盲”AI

作为AI应用普及的受益者，大部分消费者只看到了其便捷与美好。但事实上，人工智能的“失败”远远多于“成功”，其中导致AI“失败” 的最常见因素来自于对抗样本的干扰。

GeekPwn2018的CAAD 对抗样本攻防赛的现场，本是人类肉眼就能轻易分辨出来的事物，被白帽黑客们“黑”去细节后，令AI把蒋昌建老师的照片识别为阿诺德·施瓦辛格。由吴育昕和谢慈航两位选手组成的IYSWIM战队，通过生成一系列“对抗样本”，最终成功欺骗亚马逊在线名人鉴别系统，实现对在线 AI 服务的“致命一击”，最终以第一名的成绩赢走数十万元奖金。

GeekPwn2018“CAAD对抗性样本攻防挑战赛”参赛队伍 IYSWIM

（图说：亚马逊celebrity recognition将蒋昌建照片识别为阿诺德·施瓦辛格）

不久前，比利时鲁汶大学的两位少年，成功地为广大网友演示如何在AI面前召唤 “隐身术”。事实上，他们只是在肚子上贴一张图片就轻松躲过了目标检测界翘楚YOLOv2的火眼金睛，最终被判定为一件可有可无的物件，而非人类。这样的欺骗，就是著名的对抗攻击。不难想象，如果这些对抗图像被印在T恤上，人手一件，那时人人都能逃过智能监控系统，潜入某个空间“为所欲为”也不会被察觉……

图片来自网络

为了更前瞻性地洞悉到AI 领域可能存在的风险，通过危机预演找到对付这些对抗样本的最佳防御策略，从而推动人工智能安全健康成长，GeekPwn2019将以14万元总奖金联合谷歌大脑的 Alexey Kurakin、Ian Goodfellow以及美国加州大学伯克利分校计算机系教授宋晓冬再次发起“CAAD CTF 图像对抗样本挑战赛”。你是否也能通过对抗样本成功骗过图像识别系统？是否能够逃过公开智能安防设备，实现人或者物体的“隐身”？不如来 CAAD CTF 图像对抗样本挑战赛一试身手。

GeekPwn2019组委会介绍，挑战分为预赛和决赛。其中，预赛分为两轮，排名以第二轮为准，需要选手提交对抗样本图片进行定向攻击，通过得分与排名争夺前四名，获得晋级GeekPwn1024上海站决赛的机会。决赛规则将另行通知。 

报名截止时间与方式：即日起至 7 月 21 日，选手可以发送邮件至 caad@geekpwn.org 报名。报名邮件请列出队名、队伍介绍、成员姓名以及成员情况简介。每支队伍最多 5 人，其中最多 2 人可到现场比赛。

耳听亦为虚—— 声音也可成为欺骗AI的武器

目前，AI已经在多个领域得到广泛应用，声纹识别已经成为图像识别之外的重点方向。由于很少会出现具有相同声纹特征的两个人，因此这种具备了显著区别的易采集特征成为身份认证的重要手段之一。大到国家安全及刑侦安全、小到服务人们生活的声纹门禁、银行认证、以及 iPhone 的 Siri 等都是声纹识别技术应用的代表。

但不论是图像领域，还是在语音领域，AI都存在被欺骗的可能性。曾在2017年GeekPwn的“AI 仿声验声挑战赛”上，由深圳研究生院学生组成的“清晨李唐王”团队就成功利用机器合成的声音，解锁攻破了三个有声纹验证的设备，斩获该项目的头名。

GeekPwn2017“清晨李唐王”团队

为此， GeekPwn2019针对语音识别领域单独设立了“CAAD 语音对抗样本挑战赛”。据介绍，该项挑战赛单项最高奖金为 10 万元，挑战目标是任何公开的语音转文字服务或产品。项目要求，选手对比赛提供的正常声音文件（可能是人说话，鸟叫，火车汽笛等各种声音）做很小的修改，最终这些文件可以转成服务、产品识别成组委指定的文字内容，或者进行其他合理的对服务、产品的误导等。

报名截止时间与方式：即日起至 9 月 30 日，选手可以发送邮件至 caad@geekpwn.org 报名并描述所能达到的效果，便有机会成为受邀团队出现在最终的比赛现场。

除了CAAD样本对抗攻防赛外，GeekPwn2019还将推出全新的“隐私安全之反偷拍挑战赛”，保护隐私安全；面向少年群体推出“青少年机器特工挑战赛”，培养全新一代的少年黑客；从创办初延续至今的“基于漏洞挑战赛”与“非基于漏洞挑战赛”，发扬大赛无所不PWN的精神！戳GeekPwn官网了解更多赛事详情，2019年10月24日上海见。