为什么人工智能需要“以人为本”的设计

编辑导语：随着科技的不断发展，人工智能开始慢慢的进入到我们的生活工作中，但人工智能需要注意一些问题，一些企业在做此类项目时，需要注意到人工智能与用户沟通的机制；本文作者分享了关于人工智能设计时需要注意的点，我们一起来看一下。

今天，人工智能已经开始重塑商业和社会，但在实际业务中，很多“大数据”或AI项目却无法正常交付。

导致问题的原因有很多，比如：

• 试图利用技术来解决战略层面的问题；
• 高估了数据的可用性；
• 低估了数据梳理的难度；
• 没有采取相应的流程来确保算法输出产生预期的业务成果等。

除了这些原因之外，还有一个经常被大家忽略的原因，那就是—— AI的应用没有以人为本。

一、AI不需要成为“人脑”

很多人都以为今天AI的发展是因为我们发明了更先进的算法，让机器能够模拟人脑的工作方式。这让人们产生一种误判——机器已经能够模拟人脑的工作方式，替代人类思考；但实际上，现有的算法和十年前并没有本质区别，而今天和十年前最大的不同是算力和更大的数据集。

在这样一个认知基础上我们再来看AI到底具备怎样的能力呢？

根据Hammond的定义，我们可以将AI的作用分为两种：自动化和增强人的能力。而人类的知识也大致分为两种：显性知识和隐性知识。自动化对应执行与显性知识相关的任务，增强人类能力则对应与隐性知识相关的任务。

显性知识其实就是“教科书”知识，可以被记录在指导手册中；通过对这类知识进行编码，AI就能够实现流程自动化（RPA）帮助人们完成那些重复、易出错或耗时的任务，例如处理订单地址更改、保险索赔、医院账单或人力资源表格等。

隐性知识是一种通过实践来掌握的“诀窍”，比如：护士凭经验发现孩子患了流感，消防员凭直觉感到燃烧的建筑物即将倒塌，或者数据科学家凭多年经验发现了可能存在的逻辑关系；而AI程序在隐性知识方面的能力正在迅速发展，例如：面部识别、感应情绪、驾驶汽车、翻译口语、阅读文本、撰写报告、给学生论文评分等。

按照计算机科学家Kris Hammond的观点：任何程序都可以是智能的，只要它能完成一些我们认为智能的事情，至于它是否像人一样思考并不重要。

从最终呈现的效果上来讲，AI并不需要成为“人脑”，而只需要作为工具帮助人类更好思考和完成任务。

二、AI如何以人为本

1. 找到用户心里的最佳

精心设计以满足最终用户需求的数据科学产品和AI应用是最有价值的。例如，在搜索引擎Bing中输入“波兰地区”会返回字面答案：120728平方英里，但同时还有一个注释：“大约等于内华达州的面积。” 数字答案虽然准确，但直观一点的答案通常会更有用。

这就是以人为本的设计，机器是不会自动这么做的，算法结果中的“最佳”不一定与用户心里的“最佳”一致。

2. 让人、机可以无缝衔接

很多AI系统在大多数情况下可以自动运行，但是在一些特殊或模棱两可的情况下，需要人工干预；而以人为中心的设计，能够确保在合适的时候进行从计算机到人的“交接”，并无缝衔接。

如果交接不顺利，AI就会成为人们口中的“人工智障”，因为对技术的依赖程度越高，在技术失效的特殊情况下，人的准备程度就越不足。

3. 理解卡斯帕罗夫定律

IBM的深蓝击败世界象棋冠军加里·卡斯帕罗夫（Garry Kasparov），Google的AlphaGo击败顶级围棋选手的事大家都很熟悉。这些事件让我们看到机器多么厉害，但另一场比赛或许会给你更多启示。

在深蓝击败卡斯帕罗夫后，有一场名为“自由式国际象棋”的比赛。这场比赛的特点是，对抗的双方都是人和机器的组合。令人意外的是，最终获胜者并不是一位拥有最先进PC的“大师”，而是一对同时使用三台普通计算机的美国业余棋手。人的战略指导与计算机的战术敏锐度相结合形成了势不可挡的能力。

从这场比赛中我们得到这样一个规律：弱人机+好流程要优于仅仅拥有强大性能的计算机，同时也优于强人机+差流程；于是人们将弱人机+好流程胜过强人机+差流程的规律称为“卡斯帕罗夫定律”。

你应该已经发现，这个规律中的关键是流程，或者说人机协作的方式，而决定这种协作方式好还是不好的手段就是以人为本的设计。

在摹因设计过程中我们也意识到这一点，所以我们非常强调如何通过设计让业务人员能够使用甚至创建属于自己的AI模型。

三、收获与启发

只考虑算法层面是不够的，整体的决策流程（包括算法和人）也必须进行类似的精心设计。

算法的最终用户应该对这个工具有足够详细的了解，以便更有效地使用算法；因此通过可视化的方式清楚地传达算法的假设、局限性和数据特征非常有必要。

此外，应该建立指导原则和业务规则，并提醒最终用户何时以及如何根据算法结果或以其他信息进行操作；总之通过更好的人机协作模式，以人为中心设计可以帮助缩小AI算法输出与预期结果之间的差距。

AI本身并不创造价值，为实际场景而设计并解决具体问题的AI才创造价值；因此仅仅建立准确的算法是不够的，以人为中心的设计至关重要。

 

作者：李丹阳，公众号：摹因智能；摹因智能产品部 实习生，东华大学交互设计方向硕士，工业设计和工商管理双学士。

本文由 @李丹阳 原创发布于人人都是产品经理，未经作者许可，禁止转载。

题图来自pexels，基于CC0协议