奇客 Scott Aaronson 将在 OpenAI 研究如何防止 AI 失控

知名量子计算机专家 Scott Aaronson 宣布他将离开 UT Austin 一年，到 AI 创业公司 OpenAI（大部分是远程）从事理论研究，其工作主要是研究防止 AI 失控的理论基础，以及计算复杂性对此有何作为。他承认暂时没有头绪，因此需要花一整年时间去思考。OpenAI 的使命是确保 AI 能让全人类受益，但它同时也是一家盈利实体。Scott Aaronson 称他即使没有签署保密协议，但也不太会公开任何专有信息，但会分享 AI 安全性的一般思考。他说，人们对于 AI 安全性的短期担忧是在垃圾信息、监视和宣传方面滥用 AI，长期担忧则是当 AI 智能在所有领域都超过人类会发生什么。一个方案是找到方法让 AI 在价值观上与人类保持一致。