YOTO Video：卷积神经网络模型或有天然缺陷

麻省理工学院人工智能实验室与AI创业公司PatternEx联合发布可以捕获85%网络恶意攻击的解决方案，该方案是由AI系统与人工工程师相结合，比目前单纯依赖AI技术的方案效率提升3-10倍。该解决方案被称为AI2 ，即“artificial intelligence + “analyst intuition。

AI2在3个月的时间内收集百万用户的近3.6亿条日志，使用基于卷积神经网络学习框架的深度学习发现一些特征，反馈给工程师，由工程师来判断哪些事件是网络攻击行为，然后再反馈给AI系统进行训练。 PatternEx公司首席数据科学家Ignacio Arnaldo表示，可以把这个AI系统视作一位虚拟工程师，它可以不断被训练产生新的模型。 

AI2每日向工程师反馈的事件从200多起，经过训练后可以降低至30多起。这个数量级对于PayPal 这种公司专门负责检测欺诈行为的工程师来说可以容忍，但对于大多数希望更智能工具的公司来说，人工需要处理的量还是太多了，并且对工程师的业务能力要求也非常高。

AI2为了提高效率需要大量的数据进行训练，比如三个月时间的3.6亿条日志训练量。谷歌AlphaGo在于李世石比赛前需要训练近3000万场比赛数据。如果没有足够的训练，效率会大打折扣。

AI2针对恶意病毒程序特别有效，因为恶意软件在同一时间攻击多个网络，这种情形更容易让AI2发挥作用。但是针对一些水平特别高的黑客高手发起的瞬时攻击（zero-day vulnerabilities）行为，AI2系统显得无能为力，因为它没有足够的信息判断这种无重复性的攻击行为。

目前所有基于AI的检测网络攻击系统都存在一个很大的缺陷：只有攻击行为发生以后，才能检测出来。好比家庭的防盗系统，只有小偷进家并把东西偷光以后才会报警。我们更期待一种基于预防的网络安全系统。

因此，深度学习（Deep learning）应用在防网络攻击中存在不足，卷积神经网络（CNN：Convolutional neural networks）模型或存在天然缺陷。