科技猎奇客 中美竞争推动科技发展
2020 年 6 月，旧金山独立人工智能研究实验室 OpenAI 发布了 GPT-3——第三代海量生成式预训练语言转换模型，它可写出从计算机代码到诗歌在内的一切内容。一年后清华大学北京智源人工智能研究院低调发布了一个更大的模型，即悟道2.0，参数数量增加 10 倍——参数是编码信息的神经网络值。GPT-3 号称拥有 1750 亿个参数，而悟道2.0 的创造者声称它拥有高达 1.75 万亿个参数。而且该模型不仅能像 GPT-3 那样生成文本，还能和 OpenAI 的 120 亿参数的 DALL-E模型一样根据文本描述生成图像，具有与 Google 的 1.6 万亿参数的 Switch Transformer 模型类似的缩放策略。
负责悟道项目的清华大学教授唐杰最近在接受采访时表示，该团队在 6 月份构建了一个更大的、100 万亿参数的模型，不过它还没被训练至“收敛”，即模型停止提升的点。唐教授表示：“我们只是想证明我们有能力做到这一点。”这不是简单的一较高下。一方面，这是研究进步的方式。但另一方面，它标志着两大科技超级大国之间的竞争日趋激烈。无论研究人员喜欢与否，他们的政府都渴望将人工智能的每一项进步应用到国家安全基础设施和军事能力之中。这很重要，因为技术的主导地位意味着在任何未来的战争中都有可能取得胜利。更重要的是，拥有这种优势的政府可能会在长期执政和全球影响力方面得到保障。具有讽刺意味的是，中国是美国自己培养出来的竞争对手。众所周知，美国的消费市场为中国的出口引擎提供了动力，中国配备了美国的机器，成为自 1980 年代以来世界上增长最快的经济体。
负责悟道项目的清华大学教授唐杰最近在接受采访时表示，该团队在 6 月份构建了一个更大的、100 万亿参数的模型，不过它还没被训练至“收敛”，即模型停止提升的点。唐教授表示：“我们只是想证明我们有能力做到这一点。”这不是简单的一较高下。一方面，这是研究进步的方式。但另一方面，它标志着两大科技超级大国之间的竞争日趋激烈。无论研究人员喜欢与否，他们的政府都渴望将人工智能的每一项进步应用到国家安全基础设施和军事能力之中。这很重要，因为技术的主导地位意味着在任何未来的战争中都有可能取得胜利。更重要的是，拥有这种优势的政府可能会在长期执政和全球影响力方面得到保障。具有讽刺意味的是，中国是美国自己培养出来的竞争对手。众所周知，美国的消费市场为中国的出口引擎提供了动力，中国配备了美国的机器，成为自 1980 年代以来世界上增长最快的经济体。