四大趋势，九大方向：14位UC Berkeley人工智能专家眼中的未来人工智能系统

雷锋网按：近日，UC Berkeley电气工程与计算机科学系（EECS）14位专家联合发布了一份名为《A Berkeley View of Systems Challenges for AI》的报告。这是继去年斯坦福的“AI 100”项目发布《Artificial Intelligence and life in 2030》（2030年的人工智能与生活）报告后，又一家殿堂级的大学对于人工智能未来的思考。

雷锋网 (公众号：雷锋网) 发现，相比起斯坦福的报告，伯克利的报告更偏重可执行性，在报告中伯克利从自己的优势学科出发（伯克利计算机系统全美排行第一）明确提出，下一代人工智能系统的问题需要通过体系结构、软件和算法的协同创新来实现，而伯克利也将在从所面临的四大趋势和九大挑战/机会出发，来解决这些问题。

作者：Ion Stoica, Dawn Song, Raluca Ada Popa, David A. Patterson, Michael W. Mahoney, Randy H. Katz, Anthony D. Joseph, Michael Jordan, Joseph M. Hellerstein, Joseph Gonzalez, Ken Goldberg, Ali Ghodsi, David E. Culler and Pieter Abbeel.

以下是雷锋网的摘录，完整报告可通过下面的地址进行阅读： http://www2.eecs.berkeley.edu/Pubs/TechRpts/2017/EECS-2017-159.pdf

前言

随着计算机视觉，语音识别和机器翻译系统日益商品化，以及数字广告和智能基础设施等基于学习的后端技术的广泛部署，AI（人工智能）已经从研究实验室转向生产。前所未有的数据和计算水平，机器学习方法的进步，系统软件和体系结构的创新，以及这些技术的广泛可用性使这些变化成为可能。

下一代AI系统有望加速这些发展，并通过频繁的交互和代表我们（通常是任务关键型）的决定（通常在高度个性化的环境中）来加速这些发展并对我们的生活产生越来越大的影响。然而，实现这一承诺会带来令人生畏的挑战。特别是，我们需要人工智能系统，能够在不可预测的环境中做出及时、安全的决策，这对复杂的对手来说是强大的，并且可以在不影响机密性的情况下处理越来越多的组织和个人的数据。这些挑战将因摩尔定律的结束而加剧，这将限制这些技术可以存储和处理的数据量。在本文中，我们提出了几个开放的系统，架构和安全研究方向，可以解决这些挑战，并有助于解开AI改善生活和社会的潜力。

关键词：AI，Machine Learning，Systems，Security

引言

自从上个世纪60年代，模拟人类智能的构想被提出以来，人工智能已经演化成为一种被广泛应用的工程技术，它利用算法和数据，解决包括模式识别、学习、决策等广泛的问题，人工智能越来越多地与其他工程和科学相交叉，成为跨计算领域的一门技术。

尤其在计算机系统这一近年来推动了人工智能技术的发展的领域，并行硬件和高扩展性软件系统促进了机器学习框架和算法的发展，使人工智能可以处理大规模的真实世界问题。存储设备成本的降低、众包技术、移动APP、物联网以及竞争性数据的优势促进了数据处理系统和人工智能技术的进一步发展。这带来的影响是：基于人工智能的解决方案已经接近甚至超过了人类，成熟的人工智能技术不仅为网络搜索、高速交易和电子商务等现有行业提供支持，还大大促进了物联网、增强现实、生物技术、自动驾驶等新兴产业的发展。

这些应用，如无人机、机器人手术、医疗诊断和治疗、虚拟助手等，都需要人工智能系统与真实世界进行交互来决策。由于现实世界在不断变化，有时后这种变化出人意料，这些应用需要支持持续学习或终身学习、以及永动学习。终身学习系统旨在通过高效地转移和利用已有知识来解决多种任务，同时最大程度降低突发性遗忘问题，而永动学习每次迭代关注一组任务，这个任务的边界不断变大，并在不断迭代中逐步提高处理问题的质量。

为了满足以上这些需求，我们面临着诸多艰巨的挑战，例如：如何积极探索动态变化的环境、如何在存在噪音和未预见的输入情况下做出安全和鲁棒性的决策、如何使得决策可解释、如何设计新的简化应用系统构建得模块化架构，等等。此外，由于摩尔定律的终结，人们不能再寄希望于计算和存储能力的倍增来解决下一代人工智能系统的问题。

解决这些难题需要架构、软件和算法的协同创新。本文并不讨论特定的人工智能算法和技术，而是分析系统方面的研究对人工智能技术发展的重要性，提出若干有意义的系统方面的研究方向。

人工智能成功的背后因素

在过去的二十年中，人工智能的进步可用“完美风暴”来形容。有三个原因导致了人工智能的进步：1）大数据，2）高扩展性的计算机和软件系统，3）上述技术的广泛应用。这些趋势使得人工智能的核心算法和体系结构，如深度学习、贝叶斯推理得以在空前的规模和领域进行问题的探索。

趋势与挑战

人工智能已经开始改变了许多应用领域。展望未来，我们预计人工智能将更广泛地推动更多领域的发展，包括：医疗保健、交通、制造、国防、娱乐、能源、农业、销售等。大规模系统和机器学习框架已经帮助在人工智能的发展中取得了举足轻重的作用，我们预计计算机系统将可以更进一步地广泛促进人工智能的发展，为实现这一目标，我们需要考虑如下几个人工智能发展的趋势：

• 关键性任务的人工智能。 挑战：设计一个通过动态环境交互来持续学习、同时做出及时决策的、稳定、安全的人工智能系统。

• 个性化人工智能。 挑战：设计一个可以实现个性化应用程序和服务、但不会影响用户的隐私和安全的人工智能系统。

• 跨组织结构的人工智能。 挑战：设计一个可以训练不同组织拥有的数据集、而不会影响其保密性，在这个过程中提供跨越组织结构界线的人工智能系统。
  

• 满足后摩尔定律需求的人工智能。 挑战：开发以满足摩尔定律时代后期AI应用的性能需求的特定领域架构和软件系统，包括：用于AI工作负载的定制芯片、在边界有效处理数据的边界云系统、以及抽象和抽样数据的对应技术。
  

  
  

九大研究方向

上述四大趋势和挑战又可以细分为在研究领域的九个挑战或机会，也标明了在我们眼中未来人工智能的九大研究方向。下图表示了这四大趋势和九大研究方向的对应关系。

这九个研究方向包括：

持续学习（Continual learning）

鲁棒决策（Robust decisions）

可解读的决策（Explainable decisions）

安全飞地（Secure enclaves）

对抗学习（Adversarial learning）

在保密数据上共享学习（Shared learning on confidential data）

为特定领域定制的硬件（Domain specific hardware）

组件化的AI系统（Composable AI systems）

跨云端和边界的系统（Cloud-edge systems）

结论

人工智能在过去十年中取得了惊人的进步，并从实验室研究成功转化可以取代之前的大量人力和监督的商业应用。人工智能系统和机器人不仅取代了部分人类工作，而且有望挖掘人类潜力、促进新形式合作。

为了让人工智能更好地服务我们，要克服许多艰巨的挑战，当中不少挑战与系统和基础设施有关。这些挑战源于让人工智能更快、更安全、更易于解读的决策、确保这些决策在对抗多种攻击类型的学习过程中得到准确的结果，在摩尔定律终结的前提下不断提高计算能力，以及构建易于集成到现有应用程序中的系统，并且具有跨越云端和边界的处理能力。

本文总结了几个开放性的系统、架构和安全方面的研究课题。我们希望这些问题能够启发新的研究来推动人工智能的发展，使其计算能力更强，具有可解释性、安全性和可靠性。

。