中国互联网安全领袖峰会：人工智能如何有效地提升网络和信息安全？

2017 年 8 月 16 日下午，第三届中国互联网安全领袖峰会（Cyber Security Summit）在北京召开，极客公园与腾讯安全合作共同举办了人工智能与安全伦理分会场，邀请了人工智能领域的多位专家及大咖围绕「人工智能如何有效地提升网络和信息安全」这一主题展开讨论，同时，也分享了人工智能与安全领域的前瞻议题。

首先，极客公园 COO 吴江上台发表了一段开场白，他表示自从去年 AlphaGo 战胜人类之后，人们逐渐感受到人工智能为我们生活带来的巨大影响，但与此同时，人工智能对互联网安全和未来互联网发展来说，是利还是弊依然是个未知数，因此，作为互联网从业者，我们在面对这样一个问题时，应该持有一个理性而客观的态度，并且还要有坚定的探索精神，这也就是我们今天邀请来这么多专家学者做分享的原因。

黑客如何攻破 AI

首先上台的是 Geekpwn Lab 的总监王海兵，他从黑客的角度谈了谈人工智能的安全问题。

2014 年，他们第一次举办了 GeekPwn 大赛，到目前为止，一共举办了 5 次，向各厂商汇报了几百个严重的安全漏洞，并协助修复，破攻破的设备种类繁多，摄像头、路由器、无人机和 POS 机等都有被攻破。

现在，他们也进军了 AI 领域。王海兵表示，「我们注意到一个 AI 应用系统，应用到人们的生活当中去帮助大家的时候，也会运行在一个特定的信息系统环境当中。作为一个整体，作为人工智能这一块即使非常安全，其他环节出了问题，一样会有问题。」

因此他们在尝试攻破 AI 领域应用较为成熟的人脸识别门禁系统的时候，并没有找到人脸识别本身算法的问题，而是发现了应用系统的问题，最终达到了一样的效果——任意人脸都可以通过门禁。

王海兵将对 AI 的黑客攻击分为 3 个层次，最核心的是算法的层面，即对抗样本算法。比如聊天机器人之前出现过一些「不良」表现，就是学习的样本出现了问题，从而使 AI 代理被污染。此外还有基础设施层面的攻击，AI 应用层面的攻击。

对 AI 来说，做出一个错误的决策和判断，与整个系统被控制，在黑客看来是没有区别的，任何地方有弱点有漏洞都会被攻击。王海兵表示他发现安全界和 AI 界交流不畅，而 GeekPwn 愿意站出来作为一个桥梁来沟通两边，让 AI 更加安全健康地发展。

AI 如何抵抗黑客的攻击

与王海兵探讨如何攻击 AI 相反，微软的首席安全官邵江宁分享了微软如何运用AI检测恶意网络攻击。微软目前是安全领域整体技术能力最强的 IT 公司之一，同时也是人工智能领域技术能力最强的公司之一。

传统网络安全防护手段如：反病毒、入侵检测和防火墙，由于网络威胁特性的演化，在今天的网络空间安全对抗过程中面临着新的挑战，需要重构和进化，打造新的网络安全生态体系。微软在新的时代，建立了新的体系化的整体安全策略，包括：平台，合作，和安全情报。

邵江宁分享了微软内部AI 在安全领域运用的成功经验和「可度量的要素」：包括AI模型可自适应，它能够适应恶意代码新的变种；其次，必须可解释，人工智能检测的结果需要与安全专业知识能够相互融合，能由安全专家理解和解释得通，能够运用在实际；最后，要可执行。「人工智能输出的结果，需要帮助安全响应链条的安全专家、响应团队降低工作量，提高响应速度。」

「人工智能成功使用于网络安全防御，要达到三个效果：速度、质量、响应。微软在 Azure 云安全中心上使用先进的人工智能和安全响应专家专业技能的组合，使用原子/特征检测，基于传统的特征检测，用户端遭遇的未知恶意代码在会使用智能云端超过160种机器学习算法模型进行检测和分析；基于网络威胁情报的检测，发现用户 IP 和僵尸网络的控制服务器的通讯；基于行为分析，对新型恶意变种软件但是可疑行为已知，把新威胁识别出来。」

哲学教授眼里的人机交互

紧接着中山大学人工智能实验室主任翟振明教授分享了他对于 AI 和人机交互的看法。

在翟教授看来，真正会给人类带来危险的，不是那些人工智能，反而是埃隆·马斯克的 Neuralink 这样将人类大脑与机器大脑融合的项目更加危险：「其实 AI 的危险性根本没有那么大，他做这种东西是更大的威胁。」

随后翟振明教授提出了人机交互的三个原则：

1. 从客体到主体的方向，信息越畅通越好。信息是帮你认知的东西，帮你判断正确与否，这叫信息。控制信号阻滞度越高越好，这是主体派出的 VR，是代表你的主体。这两个方向不对称，我们每个体都想认知世界、知道这个世界、了解这个世界，信息越畅通越好，但是我们不让人控制，控制信号，阻隔的越彻底越好。有点像二极管单向导电一样。

2. 从主体到客体方向，控制信号越畅通越好，信息密封度越高越好。

3. 以上两条的松动调节，最严苛的程序保证以各个主体为主导。要放松的话，别人说了不算，要我自己说了算。

翟教授认为这是个哲学问题，「这不是经验总结出来，是先验原则，它的正确与否靠证明，而不是靠实验观察，这属于哲学类的东西。」作为在美国教了十多年哲学的教授，翟振明如此说道。

那么为什么翟振明教授认为马斯克的脑机融合项目十分危险呢？

首先 NeuraLink 与上面提出的三条原则相违背，脑机融合会引出一个非常严肃的问题：「如何防止人的自我意识被抹除？」

未来 VR 头盔的发展方向是脑机融合，插根线就能进入 VR 世界。但这同样存在一个非常值得思考的问题：现在的虚拟世界有一个戴头盔的形式，如果没了这个形式呢？如果通过脑机融合的技术，让机器能够模拟摘头盔的感觉了呢？翟振明教授表示他强烈反对这种做法。

「VR 头显与脑中枢直连的危险和 NeuraLink 是一样的，这是在主体与客体界面上发生的事情，我们所有学科都是对着对象讲的，这个东西有什么关联，研究清楚，回来反思那是哲学家的事情。但是这个对外客体客观思维和主观反思中间交叉发生的事情，全世界所有学科基本上都没有。」

AI 应用下的「已知」与「未知」

接下来来自滴滴 Labs 安全研究的负责人蔺毅翀先生从一个产品经理和创业者的角度，谈了谈机器学习在人工智能和信息安全的应用。

长久以来，企业的安全运营都是在用规则系统和自动化的流程来解决问题，但如今这个系统在大数据之下变得很不友好，因为数据量太过庞大，处理的过程也越来越繁杂。因此安全的大数据场景催生了机器学习和深度学习的应用。这里蔺毅翀提出了关于已知和未知的概念：他认为很多公司在安全方向实践机器学习，在攻防对抗，风控以及离线数据处理等等方面收获了不错的成绩，「能解决已知的已知，在某种程度上也能解决已知的未知，也在尝试去突破这个边界，解决未知的未知。」

「作为一个安全从业者，心里最大的恐惧是什么？我个人觉得是未知的未知。如何解决？我们也不确定。AI 到底是不是这条路上的一个正确方式？我们也不确定。」在滴滴内部，机器学习在 ETA、派单和后台数据处理等方面上都有很不俗的应用，那么有没有办法做一套 AI 系统来防御未知的风险呢？

「现在我们能看到的是机器学习是在相对正确的路上，如果现有的机器学习方式可以适应安全的动态化和多变场景，突破以前的单一输入、单一输出训练模式，那么又更贴近了安全的应用，但是我们也不能说它就是正确的一个途径，只能说在前进的过程中不断探索，这是下一步可以去试的一个方向，通过实践来挑战未知的未知」蔺毅翀说道。

智能家居的安全问题更加重要

BroadLink 的高级副总裁康海洋则上来分享了在智能家居领域如何保证安全。康海洋表示，开发智能家居产品时，BroadLink 受到了三种主要威胁：系统、智能和数据层面。

系统层面。跟互联网一样，比如被 DDoS，传统 APP 的漏洞或云端的漏洞。

智能层面。把一个大脑放到你的家里，让它帮助你的家庭更舒适。这个大脑运行时一定是依赖你家里一些数据，如果这些数据被别人篡改了，或者采集到错误数据，实际上它做得决策一定是有危险或有威胁的。

数据层面。任何一个智能硬件或使用的 APP 都会在云端留存一部分数据，这些数据如果被黑客或坏人通过各种手段拿到了，再使用目前大家都会得人工智能等技术，可以把你的画像画出来，或者把你的一些习惯学习到，实际上这个威胁也是很大的。

那么挑战呢？智能家居要与云端、APP 或者语音入口、中控设备等连接，这些设备一旦被攻破，用户的家庭也就被人入侵了。与以往的威胁不同，智能家居是能够从物理上威胁到用户的，因此安全问题尤为重要。

BroadLink 的做法是：首先不断更新安全算法，提高整体安全防护能力；其次，在整个智能家居平台系统中减少攻击面，尽量不开放端口；另外，针对数据量过大的问题，BroadLink 通过使用算法，分析数据的来源和动态，「我们的目标是让整个系统变得更加透明，只有透明之后才能更好地分析。」

AI 和语音识别正在改变我们的生活

上面提到了语音识别的安全问题，科大讯飞的吴江照先生也来到了分论坛现场发表演讲，他重点说到了人工智能与我们的生活之间的联系。

在泛娱乐领域，人工智能可以模拟人声，不断训练达到与真人相差无几的音色，在手游领域用语音输入能够解决传统输入方式带来的痛苦，此外还有电视盒子等应用。

智能会议方面，讯飞目前开发出了讯飞听见实时翻译系统，对一些大会、峰会非常有用，「真正把这样一个会议后的整理工作从以前需要人去做变成计算机去做。AI+智能会议是能够促进速记和同传行业的发展。」此外吴江照先生还提到了 AI 在医疗、旅游和教育方面的应用

「每个行业都会被 AI 颠覆，就像移动互联网会颠覆传统行业一样，AI 的这种颠覆会更加彻底，不像以前移动互联网+医疗只能解决挂号难的问题，解决不了资源稀缺的问题。」

「.AI 会代替很多低技术性工作，但是短期内还是无法取代一些高技术性的岗位。以同声传译为例，一些比较高端的会议上，AI 能力目前还达不到人的高度，能解决一些普通的问题，但是解决不了一些高精尖的问题，所以这些场景下，AI 更多解决低层面的问题，人需要解决一些高层面的问题，更多是人机协作，让整个 AI 服务于人的整个生活。」吴江照说道。

泛安防和智能互联领域的 AI 应用

之前第一位演讲者 GeekPwn 的王海兵表示他们曾尝试过破解面部识别技术支持的门禁系统，那么门禁系统的开发者如何看待这件事呢？旷视科技的安防技术专家张鑫分享了旷视在公共安全领域的一些应用。

旷视通过标准 API 接口和数据结构化引擎，可以将我们训练系统、服务能力通过 API 接口形式，向上可以到很多行业形态，进入到不同的行业应用领域，向下可以支持很多产品的硬件形态，如门禁、通道卡口，包括通道权限管理系统等等。

旷视目前已经帮助全国抓捕了 1000 多，将近 2000 个在逃人员，以及法院的协控人员，以及其他涉恐各类人员。真正帮助公安在维护公共安全领域上作出了贡献。

目前，旷视的泛安防、智能物联已经在全国覆盖了 20 多个省。

在导航臂障设备，这些会影响到我们的生产和生活等相关各个领域。导航臂障设备一方面依靠雷达的判定，另一方面依靠视觉，能够躲避障碍物，如何做决策和分析。

从 2014 年到 2018 年，旷视主要关注泛金融领域和泛安防领域的产品形态，未来，他们将在人工智能云、IoT 以及机器人领域开拓更广阔的市场。