网络犯罪分子也喜欢用人工智能，部门机构挑战升级

编者按：本文来自微信公众号 机器之能（ID：almosthuman2017） 编译：Rik R

一直以来，金融机构都和网络犯罪处于长期拉锯中，而人工智能技术可能让战事升级。

人工智能技术正在帮助银行的网络安全团队洞察并处理违规行为。不过，人工智能也会创造出新的系统漏洞，这是由于机器被赋予控制权的同时也为发生错误和伪造行为提供了机会。从另一个角度来看，人工智能还可以提升攻击者的工作效率。例如，在去年发生的那起黑客攻击事件中， Petya 恶意软件就利用人工智能来识别漏洞，可以每秒扫描数百万个端口来发现攻击的突破口。

「人工智能是一把锤子，可以用来行善，也可用来作恶，」普华永道合伙人、负责人兼网络安全和隐私部门负责人 Jim Fox 说道，「如果你的对手有一把锤子，你最好也有一把。」

人工智能软件能够监视所有的网络活动，并快速辨别出可能出现违规的行为模式。随着时间的推移，人工智能系统可以辨别出常规模式中真正的可疑行为，哪怕这种模式在之前从未被标记过。

去年的 Petya 恶意软件攻击是「以机器的速度」在做决策，一位网络安全专家说道，「没有人指导这个恶意软件。他们编写了一个智能程序来完成所有的工作。」

纽约投资银行 Greenhill & Co.的首席信息官 John Shaffer 找到了一个更好的方式来应对零日漏洞攻击（ zero-day attack ）。

「我们现在处理的大多数攻击事件都不是通过传统工具解决的，比如基于签名的防病毒软件，或者其它与签名有关的东西。」Shaffer 说道，「真正的攻击程序知道如何对付这些工具。真正有趣的是尝试找出那些聪明的程序在做什么。这就是机器学习和人工智能发挥作用的地方。」

Shaffer 安装了 Vectra 公司基于人工智能的系统，该系统可以监管 Greenhill 公司所有的网络流量。它能够发现那些标准入侵检测软件看不到的异常，他解释说。基于人工智能或增强型网络安全产品的供应商还包括 IBM、Darktrace、FireEye 和 McAfee。

在 Shaffer 部署这个软件时，系统立即发现了银行网络中一些奇怪的流量模式，而在这之前，这些工作是由公司自己的漏洞扫描器负责。

「对很多系统来说，这就像是有人在扫描你的网络，」Shaffer 说道。

Vectra 的软件并不像绝大多数的安全系统那样会发出大量警告，一天的发送量在 10 条左右。同时无需人工编写规则，而是系统自己去学习正常行为和违规行为之间的差异，这为网络安全人员节省了大量的时间和精力。

人工智能的黑暗面

美国情报界对人工智能的使用忧心忡忡：人工智能不仅会增加网络攻击漏洞、增加事故发生的风险，还能催生外国组织利用技术升级武器和情报系统，同时加重了私营部门和金融机构担负的责任。

「美国政府已经表示，如果一切都由机器运作而不再有人为干预，那么人工智能就是我们的全部执法力量、一切人类事务的总把关人，」多伦多公司 Duhaime Law 一位律师 Christine 说道，「所以，我们的互联性越强，使用系统判定安全性、良性或恶性的比例就越高，系统就会越容易受到攻击，因为我们竟然指望系统能够比想要伤害我们的外国黑客更聪明且更优秀。」

她还指出，政府担心人工智能可能会增加事故发生的风险，并大幅增加私营部门和金融机构肩负的责任。换句话说，系统的自行决策程度越高，就越有可能犯下一个难以挽回的大错误。

「例如，系统搞错了付款对象，而那个人已经走了，或者是颠倒了一群交易对象，或是将 100 万美元付给了 1000 个人，」Duhaime 说道，「如果系统遭到大规模曝光，那么很多人的个人信息将被不法分子利用，可能面临被勒索的威胁。具有超强计算能力的流氓软件会解码我们的系统，而且能够对我们的关键金融基础设施实施各种破坏性行为。从历史的角度看，私营部门从未在网络安全方面投入足够多的资金。可是只有这么做，才能发现漏洞。」

鉴于网络犯罪分子使用人工智能的现实，私营部门更有理由以其之道防患于未然，普华永道的 Fox 在援引 Petya 的例子时说到。「这些决策是以机器的水准和速度制定的，」他说，「没有人指导这个恶意软件。他们编写了一个智能程序来完成所有的工作。」

有一家银行配备了强大的网络安全系统和人工智能工具，却在两分钟内被 Petya 感染了 14000 台机器。Fox 说：「人工智能系统在五分钟内便通知到网络安全团队，报告了一些可能带有恶意的异常事件，并做了锁定和关闭所有机器的决策。」

罪犯如何使用人工智能

McAfee 公司首席技术官 Steve Grobman 也指出，新技术的出现会引来守法者，也会招致网络罪犯。

「金融领域有如此多网络犯罪的原因在于，这是一个非常有效且低风险的偷钱方法，罪犯只会遭到逮捕和起诉。」Grobman 说，McAfee 正在学习「对抗性机器学习技术」。

「我们正在研究恶意软件究竟是如何对模型产生不良影响。」他解释道，骗子们可能会把经过专门制作的数据引入到数据集中，这样模型在未来查看数据时就更难发现它的问题。

或者，他们可能会向输入数据集中添加噪声或虚假信号，从而使提取真实信号的过程变得更加困难。

「如果你成功令防卫系统频繁误报，网络安全人员将不得不重新调整其模型，」Grobman 说。他做了一个比喻：如果一个小偷想闯入一个有警报系统的房子，他可能会在每晚 11 点钟骑车经过房子，故意激活警报。几周后，房主会对这个警报系统厌倦，不是校准警报系统的敏感度，就是把这个系统系统关掉。这时，小偷就有了可乘之机。

恶意软件也开始使用人工智能来自动化先前人类的工作，Grobman 说。例如，利用电邮或社交媒体搜索的历史记录，人工智能可以生成千人千面的鱼叉式网络钓鱼邮件，即黑客会伪装成接收者认识的人并向其发送电子邮件来套取密码等信息。

他补充道：「人类无需为每个人量身定制内容，软件可以自动创造出适合每一个人的内容，从而可以提高受害者的转化率。」

Grobman 对政府面向人工智能的警告感慨万千。