德勤风险与财务咨询经理：机器学习的兴起及AI算法的风险

在过去，如果想从数据中推断出结论，那么常常需要聘请一群数学家来计算一大堆数字。现在，电脑已经足以聪明到可以自己计算出一切。但是，“自我驱动” 人工智能 也因其不受约束的力量为 金融机构 带来了一系列涉及监管、合规和隐私性的挑战。

越来越多的金融机构正在使用 算法 来支持他们的决策，从检测欺诈和洗钱模式到提供给消费者的产品和服务建议。多数情况下，银行和信用合作社可以使这些传统算法良好运作并减少风险。

但是新的认知技术和 大数据 的可访问性导致了新算法的产生。与传统的程序员编码的静态算法不同，这些算法可以在不经过人类编程的情况下进行自主学习；它们能根据输入算法的数据而改变和演变。换句话说，这些算法是真正的人工智能。

这是金融机构计划要斥重金投资的一块领域。据IDC统计，2016年，会有近80亿美元投入认知系统和人工智能——由由金融服务行业领导，到2020年，这一数额将突破470亿美元，年复合增长率超过55％。

使用这些AI功能的 机器学习 算法确实有许多好处，特别是在营销策略方面。这就是为什么大量的钱被投入数据科学，但风险也是无此处不在的。

德勤风险与财务咨询经理Dilip Krishna和Nancy Albinson解释了其中一部分风险，以及金融机构如何管理这些风险。

The Financial Brand（TFB）：能举个例子说明金融机构如何使用机器学习算法的吗？

Dilip Krishna： 在投资领域，金融机构使用机器学习的方式是从多个新闻和社交媒体来源收集数据，并挖掘这些数据。一旦发生新闻事件，他们会使用机器学习来预测哪些股票将受到积极和消极的影响，然后将这些见解应用于其销售和营销过程。

TFB：通过人工智能和机器学习，算法可以自己构建。但这难倒不是很危险的吗？

Nancy Albinson： 毫无疑问，这些人工智能算法，其复杂性及设计，都为其增加了风险。复杂的技术，如传感器和预测分析以及易获取的数据量使得算法本身更复杂。此外，算法的设计不是那么透明。它们可以被创建在“黑匣子”内，如果它们自主构建算法，可能会导致有意或无意的偏差。但如果这种设计不明显，监控就比较困难。

随着机器学习算法变得更加强大，更加普遍，金融机构将会分配给算法越来越多的责任，那么在一定程度上也增加了风险。

TFB：监管机构是否意识到人工智能和机器学习对金融机构带来的风险？

Dilip Krishna： 目前的监管并没有达到其所需的监管要求。例如，虽然诸如SR11-7“模型风险管理指导”等规则描述了如何验证模型，但这些规则并不涵盖机器学习算法。使用预测模型，人们可以构建、测试并完成模型，但却不能测试这些算法是否会根据提供的数据来进行自我修改。在机器学习中，算法会变化、发展和成长；可能会增加新的偏差。目前，我们并没有看到监管机构对机器学习模型风险的过多讨论，但事实上他们真的应该对此多加关注。

TFB：对此，金融机构有专门的技术知识吗？

Dilip Krishna： 其中的一些技术，如使用神经网络的深度学习算法，处于科学前沿。即使是先进的技术公司也很难理解和解释这些算法如何工作。神经网络可以有数千个节点和诸多层次，形成数十亿个链接。实际上，确定哪些连接具有预测价值是很困难的。在大多数金融机构中，管理的模型数量仍然很小，但可以使用特殊机制或外部方式来测试其算法。

TFB：在开发人工智能和机器学习算法的风险管理计划时，金融机构应考虑什么？

Dilip Krishna： 金融机构需要从风险角度来看待算法，并负责处理风险。风险管理并不一定是困难的，但机器学习算法绝对不同。与其研究算法的实际编程代码，人们须更加注意结果和实际数据集。金融机构仍然还有很长的路要走。

Nancy Albinson： 金融机构需要真正理解其所使用的算法，这对其业务有很大的影响和风险性。我认为金融机构不仅需要监控其算法设计，还应监控数据输入。万一有人操纵数据，导致不同的结果呢？

然而认识到这些算法的风险管理是一个持续的过程，但金融机构应更加积极主动地参与其中。使用算法具有巨大的竞争优势，越来越多的决策可能被委托给这些复杂算法。幸运的是，我们已经发现算法的问题，所以金融机构需要做好准备来管理潜在的风险。未来，那些能够利用机器学习算法来管理风险的机构将具有竞争优势。

---

科技赋能，动能转换。9月14日亿欧将在北京双井富力万丽酒店举办以“ 服务实体经济 ”为主题的 2017中国金融科技未来领袖峰会 ，活动详情及报名请戳： 服务实体经济——2017中国金融科技未来领袖峰会