用AI对抗AI 阿里安全图灵实验室开发出新一代智能验证码-天下网商-赋能网商,成就网商
“下列事物中,长度最大的是?书皮、书法用纸、火车、自行车、门、家庭客厅……”当你把“火车”拖进指定区域时,恭喜你,成功完成验证,可以继续放心买买买了。
近日,阿里安全图灵实验室研发的新一代AI验证码产品正式上线,淘宝、天猫等业务场景均可使用。阿里安全图灵实验室高级算法专家华棠表示,新型验证码的原理是汇聚生活常识类信息为问答型知识库,将问题和答案通过图像形式展现出来,用户拖动正确答案到指定区域,从而通过验证。
阿里安全图灵实验室研发的新一代AI验证码产品正式上线
“其特点是,应用人工智能研究领域最新的对抗样本技术,对原始图像有针对性的加入干扰,使得人眼识别不受影响,但会显著降低人工智能模型的识别率,从而防范打码平台的破解,同时保持用户体验。”华棠举例称,“比如一张熊猫的图片,我们加入干扰之后,人眼识别依然正常,但用AI识别的就会失败,即使攻击者人工标注或者拖取题库都难以破解。”
据了解,互联网平台为保障账号是由人操作而非机器,研发了验证码技术。发展多年,从早期的纯文本到图文结合,再到如今的滑动、拼图、点击图中具体事物等,验证码几经迭代,技术已渐趋成熟。
如今的验证码产品包括纯文本、图文结合、滑动、拼图等多种类型
“但是近几年,人工智能的技术不断发展,也被不法分子用于破解验证码来非法牟利,业界通常称之为‘打码平台’,”华棠表示,不法分子通过各种手段收集大量的验证码图像后,用机器学习技术进行OCR(光学字符识别)模型的训练,从而实现对验证码的自动识别,正确率可达80%以上,“盗取用户账号、恶意注册薅羊毛等一系列犯罪行为都由此产生。”
今年6月,阿里安全协助浙江警方侦破的全国首例“撞库打码”案,就揭开一条由撞库、打码平台、“码工”组织者、“码工”多个层级串成的黑灰产业链。这些不法行为也导致直播、短视频以及各类线上营销活动被严重“薅羊毛”,平台和用户利益均受到侵害,且存在信息泄漏等问题。
今年5月,阿里安全与浙江大学联合成立AZFT网络空间安全实验室,共同研发人工智能安全技术,新一代AI验证码正是双方研究成果在阿里巴巴的落地,也实现了验证码领域的AI对抗AI。
新一代AI验证码基于结构化知识图谱建立丰富的常识问答库,也可有效避免攻击。所谓知识图谱是由一些实体、实体属性以及实体之间的关系构成,比如姚明和火箭队的关系等,“目前知识图谱可生成的题目是上亿级别,用户回答时长9秒左右,回答一次通过率为90%,”阿里安全图灵实验室技术专家龙岗表示。
常识题目有多难?会不会题目太奇葩答不上来?针对用户可能出现的担忧,龙岗表示,在问题设置上会先进行人工筛查和模型识别,筛选出大部分用户能够回答得上来的简单问题,“只有触发风险,需要进行设备真实性验证时,这一验证码问题才会出现,所以用户无需担心。”龙岗表示。