科技猎“刷脸时代”来临，你被AI歧视了吗？
【编者按】在人脸识别技术中，数据是重要的一个环节。如果喂养的数据过少、分布不均，训练出的识别模型就不能很好的拟合实际情况。种族歧视一直是美国存在的问题之一，人脸识别技术的发展，再次将这个问题摆在了台面。
从大联盟棒球场到当地学校和夏令营，各公司竞相将人脸识别技术应用到生活中的方方面面。然而，这也带来了一个棘手的问题：人脸识别技术可能会加剧种族偏见。不断有证据表明，商业人脸识别软件对肤色较黑的人识别时准确度不高，人权倡导者担心警方可能会使用这种有偏向性的面部扫描方式。
然而，各大公司持续在全国范围内推广这些人脸识别系统，并向人们保证将研发出更准确的算法。然而， 真的有可能实现完全无种族偏见（不仅仅是消除肤色的影响）的人脸识别吗 ？为了回答这个问题，我们与人脸识别，种族和监控方面的专家进行了交谈，并向他们询问是否能够解决人脸识别在技术，文化和刑事上的偏见问题。
技术偏见与技术解决方案
今年早些时候，麻省理工学院的研究人员Joy Buolamwini和Timnit Gebru指出导致人脸识别系统对黑人有偏见的原因之一是训练的数据集中肤色较深的面孔数量太少，使得人脸识别系统在识别肤色较深的面孔时准确度更低。研究人员发现， 当使用各种人脸识别算法来识别性别时，算法将肤色较深的女性误分类为男性的比例为34.7％；而对肤色较浅的女性的分类最大错误率不到1％。
“商业识别软件已经将人脸识别变为了一种二进制分类任务，但错误率高达三分之一，在这种情况下，我们不禁要问，如果是在其他的子组分类项目中，这样的错误率是否可以容忍。”Buolamwini在麻省理工学院所附的新闻稿中问道。
在该论文中， 微软 的性别分类器在对深色肤色女性进行分类时错误率为20.8%。因此，微软在6月份宣布， 将通过使面部训练图像中的肤色更多样化来重新校准训练数据，并宣称其能够平衡种族差异对性别分类正确率的影响。然而，这只是人脸识别偏见中的一种。
“我们正在谈论的是我们行业面临的两个不同且独特的问题，”AI创业公司Kairos的首席执行官Brian Brackeen在接受Gizmodo访谈时说到。他解释说，技术偏见需要技术性解决方案。但即使是功能完备的人脸识别系统也可能会有偏见，这是一个需要更多地从文化方面解决的问题。“这两个问题都值得关注，但他们在本质上是不同的。”
Kairos的生物识别登录系统使得银行客户可以刷脸登录账户，员工可以刷脸打卡上班，游乐园里的游客可以刷脸进入快速通道。在这种情况下，Brackeen说到，误报或漏报的风险要低得多。被银行错认与被警方错认根本不是一回事。
“我更愿意向主题公园，邮轮公司或银行出售人脸识别软件，”Brackeen说，“如果你因为是非洲裔美国人而必须登录两次才能进入银行账户，这是不公平的。但是，你不会被攻击。“
Brackeen开玩笑说，他可能是唯一一名人脸识别公司的黑人首席执行官。上个月他宣布了Kairos拒绝与穿戴式相机制造商Axon签订合同的消息，成为了媒体关注的焦点。根据Brackeen的说法， 人脸识别软件在增强警察办案能力的同时也加剧了警务系统的偏见。
“我们所谈论的穿戴式相机上使用的AI工具都具有超越人类能力的力量。假定一名工作人员一小时可以识别30张图片，如果你问警察部门是否愿意将人脸识别软件的识别速度限制为1小时识别30张图片，他们一定会拒绝，因为这不是所花费的时间的问题。这是关于可能会改变社会契约的人脸识别超能力的问题”，Brackeen说到。
最终，Brackeen找到了一个供应商端的解决方案：在上个月的一篇社论中，他呼吁 每个人脸识别公司停止向执法机构出售其技术。
毒树之果
人脸识别软件是通过将被扫描的面孔与面部图像数据库进行匹配来进行识别。如果是应用于警务系统，这些数据集中的图像可能来自于护照、驾驶证照片或档案照等。在奥兰多，警方与亚马逊合作测试了连接到公共场所的监控摄像头的人脸识别软件。在纽约，各学区也开始探索类似的系统，如果公园等公共场地发生射击后就可扫描游客面孔。在以上这些情况下，使用人脸识别软件的目的都是即时识别正在追捕的嫌犯。
然而，前提是逮捕令本身的发布是“公正的”或应引起警方的干预。想想Mike Brown枪杀事件在密苏里州的弗格森引发的抗议。Brown去世后，司法部的一项调查发现，弗格森警方采取行动的原因不是出于对公民安全的考虑，而是为了不影响城市税收。正如报告所解释的那样，警方经常因种族主义针对黑人司机进行拦截和搜查，将其作为有利可图的盈利模式，并因他们未能如期和仅部分付款而签发逮捕令。
这些数字令人震惊： 弗格森的黑人公民占占全市人口的67％，但黑人公民是85％的交通站的拦截目标，因各种罚单而成为91％的交通站的拦截目标 。如果未来可以借助于人脸识别软件即时识别所有司机，可以想象，由于识别系统有偏见，任何被即时匹配为正受追捕的嫌犯的人的生活将是如何混乱。随着人脸识别系统变得标准化，并逐步应用于学校，体育馆，机场和交通枢纽，警察的监督权力也在逐渐增长。即使使用重新校准的训练模型，“偏见”也并不会消失。我们谈过的一位学者认为， 在警务系统中永远不会存在无偏见的人脸识别。
“人脸识别系统假定警察处于中立立场，但我们知道事实并非如此，“德克萨斯大学奥斯汀分校的助理教授Simone Browne说到。她是Dark Matters: On the Surveillance of Blackness一文的作者，认为生物识别监视将身体本身转变为一种证据形式，一种与奴隶制历史有关的超客体化形式。Browne写道：
种族监视也是数字领域的一部分，在其领域内部和外部都会产生重大影响......然后，从个人和群体中产生和抽象出来的数据在数据库内部和不同数据库之间记录，传播和交换。这些数据通过性别，国籍，地区，种族，社会经济地位进行标记......对某些人来说，这些类别本身就带有偏见。
Brown认为，人脸识别技术为我们的身体创造了一个数字副本，然后被当作身份证进行分析，共享，审查，与我们进行匹配——所有这些都是验证我们的身份和跟踪我们行为的手段。人脸识别系统是对人类进行分类的一种手段，从而将人们根据生物统计学信息分成有时会引起偏见的不同类别。我们可以从帮派数据库，恐怖分子观察名单甚至购物者首选列表中看到这种分类产生的后果。
“我们现在都无法设想人脸识别技术将能提高黑人境况，毕竟警务系统仍保持一成不变，”Browne警告说。
谁将从中受益？
“我们生活在科技日新月异，科技和科学发展不断加快的时代”，数据与社会研究院的主任Alondra Nelson说，她主要研究科技对社会的影响，“暂停和反思是必要的。我认为，它们能够提醒我们，我们不仅仅是想成为快速转动的系统中的齿轮。”
Nelson对微软关于性别分类的帖子持怀疑态度，他当时在推特上发文：“ 我们必须停止在更多样化的监控系统中将‘包容’与正义和平等混为一谈。 ”
“非裔美国人社区的有色人种群体没有享受到特定新技术带来的积极作用，相反，他们往往受到新技术往最坏的方向发展所带来的伤害，我的大部分工作都涉及到他们如何看待这种现象。”Nelson说。
这种双重困境——黑人遭受科学带来的负面影响而非享受科学带来的进步——体现在“医疗种族隔离”的概念中，这是由作家Harriet Washington对以黑奴为实验体的医学实验进行历史分析后创建的术语。“医疗种族隔离”指的是为了所谓的科学进步，黑人沦为实验品，且并没有从中受益。其中一个最臭名昭著的例子就是James Marion Sims，他因降低了产妇死亡率被一些人称为19世纪的“妇科学之父”，但他的研究都是在黑人女奴身上进行的。
“所有在生育健康方面早期取得的进步都是通过完善黑人女性实验实现的，”Washington在2007年接受采访时说。“为什么？因为白人妇女可以拒绝“。几个世纪之后，黑人妇女的产妇死亡率是白人妇女的三倍。
人脸识别并没有那么可怕，但“医疗种族隔离”是一个有用的思考框架，来考虑科学和科技的发展与进步给不同群体造成的影响以及最终带来的利益。我们可以用一个简单的问题来说明这种差异：哪些群体可以说不？
Nelson说：“这不仅仅是公司要问的，它更关系到民主治理。拥有更好的监控技术并不一定代表更好的民主治理，我们需要对这样的可能性持开放态度。”
如果不应用于警务系统，技术和文化上的偏见似乎不那么危险。但问题仍然存在： 黑人是否可以拒绝进行面部扫描，即使人脸识别软件在数据上实现了均衡衡，被广泛应用于商业，并受到了合理规范？ 同其他任何人一样，黑人应能够享受更短的机场排队队伍和更便捷的登录方式等便利。但是，在评估新兴技术对社会的积极或消极影响时，我们需要考虑它是否对社会成员产生了不同的影响，而不仅仅是它是否有趣或体现了包容性。
监督监管者
本月早些时候，在公众强烈反对其公司与ICE签订合同后，微软总裁Brad Smith公开（并广泛报道）呼吁，要求美国政府对人脸识别技术进行监管。Smith 写到“一般而言，要求选举产生的政府监管公司比要求未经选举的公司监管政府似乎更为明智。”
Smith呼吁建立一个“两党专家委员会”来指导人脸识别技术的监管。这起初看起来像是一种公关策略，与奥巴马时代的多元化小组或最近流行的 人工智能 道德委员会一样，聚集了一批大名鼎鼎，德高望重的人物，却没有执法权力。然而，Smith的提议与之前的委员会有一个主要的区别：联邦委员会直接听取国会议员的意见。这些议员比以往任何时候都更强烈地希望规范硅谷这个自由派的堡垒，并且他们可以通过签发传票获得由于牵涉到财产保护法而被掩盖的文件和信息。这是一个振奋人心的建议，但要想解决人脸识别系统中的偏见还需做出更多努力。
为了创建无种族偏见的人脸识别软件，销售相关软件的公司必须，是的，解决他们系统的技术缺陷，并履行道德义务，不得将技术提供给带有种族偏见的团体 。 此外，立法者需对如何以及何时使用面部扫描进行严格的限制。即便如此，人脸识别技术不可避免地要用于刑事司法系统，如果不能解决刑事司法系统中的种族主义问题，公平的人脸识别系统永远也不可能实现。
实现这些目标可能看起来不切实际，但这也证明了问题的紧迫性。不幸的是，这些并不是对遥远的反乌托邦未来的杞人忧天。就在这个月，奥兰多警察部门重新启动了与亚马逊公司合作的试点项目，而纽约州州长宣布，面部扫描将很快用于纽约市的桥梁和隧道通行。
人脸识别技术因其便利性正在消费者中不断推广，但它与监视，甚至是控制紧密相关。想象一下，宣传“刷脸付钱”系统的广告或文章上也显示犯罪数据库或恐怖分子观察名单。如果他们真的这样做了，我们就需要更坦诚地直面人脸识别技术带来的影响。
近年来，粤港澳大湾区在打造创新驱动新引擎，科技创新带动资源集聚等方面着力颇多，创新机制、产业升级、人才引流、协同发展等带来了多方面的机遇。相应的，人工智能、人才赋能正深刻地影响着商业步伐。
2018年10月18-19日，亿欧将在深圳举办 “引擎·引领” 2018大湾区国际科创峰会（BATi） ，集合智能制造、智能产品、智慧城市、智慧安防、智慧交通等一众热点问题展开探讨，分析科技创新未来趋势，盘点技术革命下的发展契机。
报名链接： https://www.iyiou.com/post/ad/id/664
