用AI对抗AI滥用！百度建立安全领域护城河，令“天下无诈”

“你下载国家反诈中心APP了吗？” 在8月份应用下载量排行中,「国家反诈中心」以704.25万的下载量冲上榜首，这背后体现着全民反诈积极性、以及反诈意识的提高。

当今，除常规常见的诈骗套路，不法分子的招术随着 科技 的发展也在加码“升级”。AI技术在引领产业智能化、提升生活品质的同时，还有可能遭到不法分子的恶意利用，生成高科技的新型诈骗手段，人力难防。

2021年9-10月，国家反诈中心主办“全民反诈”系列直播活动，百度安全专家受邀将做客直播间，向广大网民科普网络诈骗、解析新型诈骗手法、提升公民防诈意识。

百度对外公布，其AI技术目前已可应对70余种电信网络诈骗套路，包括较为常见的：网赚刷单、诱导 投资 理财、荐股、套路贷、虚拟币、AI换脸仿冒公众人物言论等。不仅在全网有害信息搜索拦截、APP安装拦截、内容生态治理方面，从源头拦截有害信息触达用户；另一方面，AI技术还在有效应对AI的滥用，如AI换脸等，运用AI模型安全和深度学习等技术，构建检测平台，协助相关部门守护公民财产与信息安全。

AI技术阻击AI滥用，让“AI换脸”、“AI换声”无处遁形

AI技术滥用实施诈骗，手段高明，迷惑性更强。用AI技术对抗AI技术滥用非常必要。

近年来“AI换脸”引发了社会广泛的关注，其让眼见不能为实，使之前“保真度”很高的视频、直播等变得不再可靠，并且存在潜在的安全隐患、法律问题与伦理陷阱。

百度安全近年来在多个国家级安全会议上展示了AI换脸的制作过程，通过简单地几步操作，视频里的角色就能轻易替换成另一个人，连眨眼的表情与姿态几乎都能做到完全同步。此类基于AI的人体图像合成技术被统称为Deepfake，即“深度伪造”。

技术滥用带来了一系列的“AI黑灰产”问题，通过“换脸”技术进行色情图片、视频生成、虚拟政治人物讲话等，使人脸识别技术的信息安全受到威胁，对社会秩序与舆论环境带来极大的风险。

百度对于AI安全的重视由来已久。早在2019年，作为百度多年AI技术的集大成——百度大脑，发布升级至5.0，率先将“AI安全”纳入作为纵贯基础层、感知层、认知层、平台层等各层的安全保障。

百度AI长期还致力于反黑灰产前沿技术的研究。基于在AI模型安全、深度学习卷积神经网络(CNN)技术等领域的长期探索与研究，2019年，百度安全推出国内首个基于人脸搜索、人脸属性提取、语音识别和OCR识别的深伪检测平台，采用多种算法和专利保护技术，对主流“深度伪造”数据识别准确率在99%以上，能及时地协助监管部门检测相关风险与问题。

目前，百度深伪检测平台已面向业界开源，致力于促进多方部门开展联合开发及测量评估，从源头阻断滥用AI实施电信网络诈骗行为的蔓延。

除了“AI换脸”，“AI换声”在技术层面也存在可能性。如犯罪团伙通过非法手段获取个人语音信息，继而将固有的话术和被害目标亲属的原声进行结合，利用“深度伪造”生成个性化语音片段，通过“智能客服”以攻破被害人的心理防线，从而达到骗取钱财等非法目的，以此提醒公众提高防范意识。

发挥知识图谱、大数据技术能力，从源头阻断黑灰产触达用户

数据显示，网络诈骗在各类电信网络诈骗案件占比逐年上升，欺诈类恶意网站作为承载各类欺诈非法交易、导流至更多恶意网站的重要平台，已成为黑灰产实施网络犯罪的上游。

针对诈骗链条上游的整治是百度AI长期监控、拦截、黑灰产共治的目标，力争从源头上阻击诈骗。

百度AI依托威胁情报大数据和百度大脑核心技术之一的知识图谱，搭建全网基于搜索生态、内容平台的安全态势感知系统，针对网络诈骗上游进行治理、清理。

一方面，通过百度安全态势感知系统，可针对全网文字、图片、视频、代码等进行智能建模和7×24小时实时监控，对欺诈、违法、风险等恶意网站及第三方浏览器、第三方APP、 社交 平台、短信网址有害信息采取风险标注、拦截提示、搜索屏蔽等拦截措施，该系统目前通过事前监控—— 事中拦截——事后追溯的保障机制，从源头阻断网络黑灰产触达用户。

另一方面，针对电信网络诈骗的源头——公民个人信息泄露进行集中治理，对相关涉嫌网站进行拦截屏蔽，对内容平台相关违法违规信息进行重点清理，并对相关行为人实施永久封禁账号等处罚措施，多方位保护公民个人信息安全。

此外，还有“百度网址安全中心-网址检测平台”可供公民实时自查可疑网站，轻松识破诈骗；百度安全已上线百度移动端诈骗APP安装拦截，对搜索生态中的涉嫌诈骗APP进行阻断治理，为用户安全访问提供保障。

自2019 年来，网络安全态势较为严峻，攻防对抗不断升级。据统计，近两年，百度安全年均拦截各类恶意信息416.1亿次，拦截涉诈网站及APP触达用户量2700万次，日均保障公民个人信息免遭恶意披露22万次，针对“两卡”违法交易的累计信息清理超过493万次。

此外，多年来百度积极配合公安机关，为打击刑事案件提供技术支持——提供黑灰产线索、还原黑灰产画像、深入参与侦办，协助营造清朗良好网络生态，切实保障数亿网络用户的搜索体验和公民个人信息安全。近年来配合公安机关破获各类网络犯罪案件上千起，涉案金额达数亿元人民币。反黑产开放平台向公安机关输出包括诈骗信息在内的各类“风险网站及APP”威胁情报逾百万条，助理监管机构实现对各类新型网络犯罪行为的快速研判、重点攻坚、科学预警和及时阻断。

网络安全生态治理是一场持久战。未来，百度AI将持续通过技术研发完善网络综合治理体系，技术开源、情报共享、黑产共治，协同政府、行业、机构共筑公民财产及信息安全防线，不断用领先AI技术手段攻克黑灰产“武器库”，用AI战胜AI，守护每一位公民安全、安心生活。