全国首例机器人伤人事件：谨慎对待弱人工智能失控

文丨极客王子

自丨亿欧

高交会本是兵家摩拳擦掌，一比高下之地，今天却发生一件“不愉快”的事情，一台名为小胖的机器人突然发生故障，在没有指令的前提下自行打砸展台玻璃，最终导致部分展台破坏，更为严重的是，该机器人还砸伤了路人。

伴随着热点流窜，网上更为详细、真实的现场图也流出，伤者被担架抬离会场，玻璃碎落一地，小胖机器人应景地沮丧了一脸，呆若木鸡于人群中，等待着审判。

小胖机器人是北京进化者机器人有限公司旗下产品，据简介显示，这家公司立项于2014年8月，成立于2015年2月，发展至今员工数量达260人，按照公司规模属于中型公司，产品定位为家用陪伴机器人和商用服务型机器人。

机器人产生的流血事件，是Bug的原因吗？是观众失误操作？总之人受到伤害，毫无疑问，小胖作为机器人并不能承担对应的法律责任，它的爸爸要负起全责了。

这个时候，既然法理不完善，那我们就需要搬出人类共识，在1950年末阿西莫夫撰写的《我，机器人》著作中，强调了机器人三大法则。

①机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

②机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。

③机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

这次机器人违反了第一条。

在弱人工智能时代，机器人即使做出伤害，仍然是在可控范围之内，产品对应的商家可能负有生产劣质产品的罪名，而我们仍然没有意识到机器人在不远的未来不是一个产品，是一个独立的个体，机器人的行为和大脑发育应该有所受制，否则，机器人蓬勃的发展最后将走向“失控”。

随后，北京进化者机器人有限公司给出了情况汇报。

本文作者极客王子，亿欧专栏作者；转载请注明作者姓名和“来源：亿欧”；文章内容系作者个人观点，不代表亿欧对观点赞同或支持。