对大数据和人工智能的冷思考

大数据和人工智能是今年最热门的话题，在司法领域更是如火如荼，司法在大数据时代的范式革命已经到来。但利之所在弊亦随之，如果对大数据和人工智能的风险缺乏充分认识，不能在热情之余做一番冷思考，则可能会产生许多难以预料的后果。

首先，是大数据和人工智能的安全性问题。该问题虽属老生常谈，但在互联网犯罪模式从攻击计算机和网络本身转向彻底的虚拟犯罪的时代背景下，可能历久弥新。当前，在互联网犯罪中，已经大量出现了犯罪人接受他人委托，侵入政府部门与企事业单位的计算机系统修改数据以及拦截修改计算机信息数据的案例。因此，笔者认为没有理由认为司法大数据能独善其身。毕竟，在互联网犯罪海洋中，没有哪个地方是绝对的安全岛。

其次，是大数据和人工智能的可靠性问题。围绕美国威斯康辛州法院采用的COMPAS量刑程序的争议和诉讼就是一例。有研究者认为，COMPAS倾向于高估某些特定人群的再犯可能性，而这很可能反映了设计者所固有的偏见。如果数据分析本身就受偏见的左右，那么以此为基础的人工智能所作出的决定还能可靠吗？更令人担忧的是，有相当一部分人工智能系统依靠的是机器学习算法。这种算法几乎就是“黑盒子”，因为算法的开发者也难以解释算法的真正运行机制和可能造成的后果。法律乃善良公正之术。当司法拥抱科技时，如果人类将公平正义的决定权交给算法，那么就会面临正义与科技谁会笑到最后的难题。

但对大数据和人工智能的冷思考并不意味着对它们的拒斥。大数据和人工智能在司法领域的运用是大势所趋。如果因为它们现在所存在的缺陷就将其拒之千里之外，无疑是因噎废食。实际上，在未来，随着可供使用的数据越来越多，更多更好的工具被开发出来，也行大家今天所面临的担忧可能会得到缓解。但大家必须清醒地认识到，大数据和人工智能是一把双刃剑。如果不能正确评价和对待它可能带来的风险，那么就可能造成难以预料的后果。

大数据和人工智能并不免除任何人作出判断的责任。因为这一责任属于人类最核心的领域——理性。大数据和人工智能归根结底只是人类理智的产物，盲目地迎合理性的产物而冀图免除自己的责任是非理性的表现。正确认识理性产物中蕴含的非理性，以更好地履行自己的责任才是理性的表现。

（作者系最高人民法院中国应用法学研究所助理研究员）

责任编辑：黄玉叶