AGI万字长文：2024，分叉与洪流

引子：人间一日，AI十年

紧接着对于2023年的回顾，我想斗胆做些2024~2025年可能发生的事情的预测。写这篇文章的时候正赶上OpenAI Sora、Google Genie、Mistral Large的发布，不少内容也经历了些修改。真是还没等写就都做出来了……

作为小作坊创业者，在大模型时代是没有办法拥有底层技术的，技术护城河也更加难；于是， 稍微早一点点预判，找到一个没有大鱼的“小水洼”就尤其重要， 所以我也愿意花些力气来做做今天这番思考梳理。不过，既然是预测 （胡猜） ，其中不免有不精确、不准确、过于科幻的推演；我也希望可以给大家一些启发，但也可能把人带沟里……不过纠结一番，还是觉得要把这些对于2024的猜想先写下来，立个Flag， 一年之后作为笑话来看看也不是坏事。以及，大家也完全可以把这篇文章当作科幻文学作品来看。

一、虚拟人与虚拟世界

1. 大模型的“想象力”与“取悦能力”

2023年除了ChatGPT之外，最优秀的2C应用就是Character.ai， 国内也有不少类似但不完全一样的应用，比如字节的“豆包”、Minimax的“星野”；除此之外，还有几个出圈的“AI Ins网红”。在这些应用里，我们已经开始能看到“AI虚拟人”的身影了。

不过，在实际使用和测试这些AI聊天产品的时候，我的情绪波动是很大的。最开始的时候：“啊太上头了！这是恋爱的感觉吗？比抖音还上瘾！简直是现代鸦片——终结人类繁衍的恶魔！” 不过玩着玩着我就逐渐发现： “天啊逗Ta好烦！AI脑子就不能长点记性吗？”之后变成“啊我好渣，男女AI后宫全都嗷嗷待哺，但没有一个人懂我，我好累……”最后，到思考是否要自己做一个类似的东西的时候，就会发现这些产品有一些共有的缺陷：1)记忆混乱； 2) AI无法主动推动剧情，全靠用户脑补；这就导致了3)用户上头期短，疲劳度高，长期留存低。

退一步来想，之所以这类产品相对于其他类型更早取得成功，正如我在“上篇”总结的： 大模型的“想象力”和“取悦能力”明显早于其“逻辑能力”的成熟。 这也是现阶段设计新产品的核心逻辑之一。此外，陪聊类产品的最大优势在于：产品粘性不是完全建立在技术优越性上，而是通过陪聊建立人和AI之间的感情连接。这就避免了因为OpenAI的一次技术升级被马上颠覆的问题：1)感情链接可以为产品赢得一些时间来做技术升级，2)满足这个特殊场景的技术只需要做到通用场景的80%就可以了，3)聊天数据的积累可以让自己的产品有效果加成，甚至取得一些领先。

但成也萧何，败也萧何。大语言模型的能力缺陷也限制着产品发展：不是产品经理不努力，而是技术还没到。举个具体例子：针对聊天记忆问题，星野通过生成一个“聊天故事摘要”的方式做了个“外挂记事本”；相对其他竞争对手来讲，已经很优秀了；但即使这样也无法解“决模型记忆与遗忘机制”这个本质问题，而只能缓解用户体验损失。而且，总结出这个“记事本”的难度很高：总结做得太粗就效果不好，做得太细推理成本就扛不住而且又没有故事重点……

没有核心技术对于创业公司的挑战是很大的：要能往前看半步，预判马上会成熟的技术，先准备好产品形态；而同时又不能过于超前，因为没有技术产品就生不下来。这里难就难在：AI应用是技术驱动的行业，产品能做的事情 （还） 很薄。目前还不太好说未来会不会有改观。

2. 多模态大爆发：走脑 -> 走心 & 走肾

媒介对于人的心理有着根本性的影响： 文字是走脑的，声音是走心的，视觉是走肾的。

• 文字：更擅长与“理性的人”打交道，刺激思考 （书籍/知乎/公众号） 。

• 声音：可以深入“感性的人”的灵魂，产生依赖感和亲切感 （Soul/小宇宙） 。

• 视觉：直接作用于多巴胺通路，刺激动物本能，让人成瘾 （抖快/小红书） 。

抖音的成功已经证明了： 对于泛社交/娱乐向产品，音频、视频的加入会带来质的飞跃。 那么对于AI陪聊的赛道，AI视频、音频技术的加入，也一定会带来内容生产和社交方式的质变。这也是为什么近期的视频技术大爆发让人兴奋不已的原因。自2023年末开始，Runway、Pika、Meta、Google等都不断推出视频生成/编辑工具，到了2024年更是有了Sora……

对于Sora，和任何新生事物一样， 我们会高估短期 （认为马上就有成熟产品） 而低估长期 （不愿相信、难以想象它可能带来的颠覆） 。 我暂时还没有特别细的关于Sora的信息，按照已知来看：Sora仍然在“GPT-世界模型”的逻辑框架内，在想法上并没有更新的东西，但Sora的进展是迈向AGI的坚实一步。Sora本身不是目的，我们为之惊叹的“生成视频”只是皮毛；而Sora更重要意义的在于通过使用更多模态数据 （图像和视频） ，让大模型的理解能力又有了提升；最终目标一直没变，就是AGI。

刚出来的Sora确实还有一系列问题：生成的图像不稳定、速度慢、成本高……不过there is no surprise，这些都很正常。如果我们参考文生图的成熟速度的话，从最开始有可用的产品 （Dall-E1&2在2022年上半年面世） 出来之后，到可以商用、产生行业变革大约经历了一年半的时间；类似的， 2024年将会是AI视频技术逐渐成熟并开始商用的一年。 当模型开始具有比较好的多模态理解能力的时候，稍晚一点到 2024下半年或2025年，也会看到AI-3D技术的突破。

在音频领域，配音员水平的AI已经成熟，对于一般商业场景已经足够。当有了多模态理解能力之后，带有感情的对话能力也会在2024年有突破。对于AI陪聊这个场景，音频的重要性甚至大于视觉：走心的男/女朋友才能长久；走肾的只能一晚一换。

当然，从做产品的角度来看，直接抓AGI是没法抓的，更实在的是具体商用能力的提升。比如，在AI陪聊的赛道上有：人脸动作的细致刻画 （如近期的Pika Lip Sync） ，人物微动作 （拥抱、牵手、亲吻等） ，低成本生成符合聊天内容的插画、加了“撒娇耍赖卖萌撩人”感情输出的对话、真实的背景音与烘托感情的配乐……这些都会在2024年内逐步成熟。

3. 虚拟人与虚拟世界

当我们看到上面一系列技术的可能性的时候，自然的问题就来了： 真-虚拟人马上就要出现了吗？以及，这意味着什么？

首先，如果放在3~5年的时间轴上，具有可以模仿人类感情、甚至有独立性格的虚拟人出现是大概率事件。但如果只看2024年，概率应该并不大；这是因为有几个核心技术问题目前还没有看到解决的思路：

1）记忆问题可能比想象得更加复杂， 因为“记忆”同时也是“有选择的遗忘”和“特定触发下的浮现”，但这些机制目前还隐藏于“大脑”这个黑盒里；以及，我们除了寄希望于“另一个黑盒”大语言模型自我“涌现”出这样的能力之外，似乎还没有直接教会的方法；这让解决问题的不确定性变得非常高。

2）还没有“人的模型”+缺乏丰富的个体数据。 人格是建立在独立个体之上的体验，但如“上篇”所讲，大语言模型 （LLM） 用的是所有人的一点数据，而不是某个个体的大量数据，这就和产生独立人格不在一条路上，而是在做“人格模拟”。于是，我们大概还需要一些时间让“有些奇怪的AI人格”逐渐向“自洽的真人”迭代靠拢。这个迭代过程所需要的可能就是关于个体的更完整数据。

但“没有完整人格”并不代表“没有好的产品模式”。 AI在2024年会满足一些并不需要完整人格的场景：颜值 （非才艺） 网红、直播带货、电竞直播……低门槛卖脸卖身材的行业都可能在2024~25年被AI大规模取代； 而且这种取代并不是看客们意识到“这是AI小姐姐”，而是他们完全分不出屏幕上和自己互动的小姐姐是不是真人的程度。中腰部网红/主播在未来被AI清理几乎是一定的，时间上取决于AI成本下降的速度；不过那些真正有艺术才华、出奇冒泡的头部创作者应该都还可以高枕无忧很长时间。

在未来，我们会看到，互联网上的90%+的作品都是AI做的；以及作为人类，我们也无法区分什么是真什么是AI什么是真人。

和虚拟人相比， 虚拟现实的场景可能会成熟得更早。 游戏制作、内容生产的成本会快速下降，直到诞生出人与AI-NPC共存的——具有无限副本的——真正开放世界游戏。 从发展速度上来讲，我并不认为在2024年就会实现真正开放世界游戏；但在2024年，有灵活对话能力的AI-NPC、生成式背景、小规模生成式剧情/结局应该都可以成为现实。这些生成式的-独一无二的游戏和故事会成为社交传播的出圈营销话题。

伴随着内容制作成本的下降， 另一个明显的机会是AR/VR。 Apple最近推出的Vision Pro更是让我们看到了希望。前一轮AR/VR泡沫破灭的主要原因是1)内容制作成本高&质量差，2)缺乏应用场景，3)硬件性能/重量/价格问题。第一点应该随着AI技术的进步可以比较快速地解决；第二点的突破口我认为还是会从VR游戏中诞生，而不是生活和商务场景；第三点可能就还是要看硬件厂商。因此我推测AR/VR的大规模成熟会和大型开放世界游戏同步，可能还不能够在2024年马上实现。

在“真-虚拟人”诞生的前夜，我们面临着很多灵魂拷问，篇幅所限，留到下期~

• 如何能使AI虚拟人的陪伴更“真实”，更“上头”？缺乏记忆力的硬伤要靠什么补？

• AI虚拟人会成为真正的社交对象吗？还是说，他/她仍然只是作为内容被消费 （如网红） ？

• 未来“社交”的定义会不会产生根本变化？社交平台的根基会不会被动摇？什么是新的商业模式？

• 在AI与人“混合杂居”的新世界中，我们应该如何谋生？如何爱与被爱？如何生活？如何思考？……

上面的问题看似科幻，但在如今已经充满了AI自问自答的Quora中 （知乎相当于国内版Quora） ，我似乎已经看到了几年后的未来：

There is no truth online， anymore. | 线上不再有真实。

在这样一个世界里， 互动、内容都会变得廉价，而“真实”则成为一种真正稀缺的资源。

二、“AI原生”：重新定义未来商业模式

现在的AI不仅仅是流量密码，也是股价密码；于是，是个公司都会想方设法往AI上沾边。私下也有很多朋友问我：美妆/白酒/奢侈品如何联动AI？AI如何赋能农业/传统制造业? AI如何赋能HR/行政/采购/公关？……其实，大多数都有点难。因为AI也并不是万能的，以及我们和AGI还差的很远。

像我去年12月份的文章 《AI原生公司 | 未来打工人》 写的， 目前大多数的"AI应用/AI转型”还在走“数字化转型”的老路： 把AI往现有流程上一套，还在讲“固化流程”、“节约成本”的故事。但在技术加速迭代的今天， 这样做基本就等于“做出来就是过时的”：把企业的业务模式凝固在今天，同时又剥夺了企业主动进化的能力。

现在这种情况反映出来的，更多是人们对于AI的焦虑：所以才会希望AI拿来就能用，马上能起效果。但我们不能止于焦虑： AI的力量并不应该只用在现有业务流程的优化上，而更应该用在对于未来业务的重新定义之上。 这才是“AI原生公司”应该的做法。就像在电力发明的时候，我们不应该从“如何让电力赋能马车”出发，而应该从“电力能创造和满足什么新的需求”出发。

落到实际，我们还处在AGI的早期，2023年的“AI原生”应用也还很少。“上篇”也讲了，目前除了OpenAI/Google/MS 官方应用之外，上文的“AI陪聊 Character.ai”是唯一上榜前十的“AI原生应用”。除此之外，国内的真正AI原生的还有出圈的“妙鸭相机”，以及春节附近的“哄哄AI女朋友”类型的应用；基本可以说还没有什么亮点。

那么，什么才是“AI原生”创新呢？ 真正划时代的创新都是创造并满足了新需求。 因此，我们需要从AGI （未来） 的能力出发来思考这个问题。不过，真正到商业模式/产品落地还要技术的成熟时间，今天也没有办法穷尽AI能做的事情。我也只能尝试提几个AI会持续发展的方向，希望能有所启发。

1. 广义语言-万能翻译机。 1)当前可以做到大多数国家之间语言的高质量翻译；2)编程语言之间的相互翻译能力也不差 （但暂时还没有架构师思维） ；3)人的语言-机器语言之间的翻译还需要些时间，因为自然语言编程的问题经常来自于自然语言本身模糊性的缺陷；解决2-3)的问题需要AI有更强的理解->自己做出假设->解决问题的能力：这正是AI Agent要实现的。

2. 想象力 & 创造力。 不多赘述，前文提到的虚拟人-虚拟世界已经给了我们足够的想象空间。

3. AI使用工具-AI之间合作。 AI对于工具的使用，AI之间的分工合作可以弥补单个AI的能力缺陷。可以有效使用工具的AI、AI相互合作也是现在有关AI Agent的研究重点。未来的APP服务背后由多个Agent来支持会是常态。

4. 量变产生质变-AI微决策。 AI与生俱来的能力就是低成本、大规模、高速度；那么利用AI来在大量细微事件上做出高速决策便是一个思路。现在的“高频交易策略”和“推荐算法”其实就已经是在这么做了，在AI智力升级之后，一定会有更多的可能性。

5. AI与人合作。 在相当长时间里，AI首先要解决的还是如何与人合作的问题，实现AI+人的1+1>2。这件事的前提大概就需要“上篇”中提到的“人的模型”和“人的数据”，才能让AI真的理解与之配合的人类。

随着技术的进步与成熟，2024年的“AI原生”应用会比2023年多得多。

三、To AI的商业模式：更高确定性

上面讲的都是AI如何服务人；从另一个角度来向，服务AI的商业模式的确定性可能更高。淘金时挣到钱的除了卖铲子的，还有修路的。

1. 合成数据

意思是生产数据喂给AI模型，提高效果。目前比较多的做法是“大量的、质量一般的数据”可以用在模型初始训练 （包括无监督学习和有监督学习） ，“质量很高、数量较少、有行业特性”的数据一般会用在模型后期精调/行业化精调上；不过也有公司在尝试把高质量数据放在预训练的退火阶段，也取得了一些效果。

做数据的方法也多了起来。传统做数据的核心竞争力在于1)可以收集到别人拿不到的数据；2)低成本做大量数据清洗和标注。刚刚兴起的，是 AI合成数据 ，也就是用AI来生成数据再喂给其他AI。现在有不少创业公司在做这件事情。“上篇”也讲了，合成数据会逐渐成为下一代模型基础训练的主要数据来源，人生产的数据主要会用在最后的精调/对齐上。

此外，新的数据种类也是一个值得思考的点。当前数据主要集中在文本、照片、视频；但如果模型需要对于3D空间和物理规则有更好的理解，应该需要更多的其他种类传感器的数据，如：惯性/重力，应力，电磁，温度，湿度， etc……

2. 模型市场/平台

当前最火的AI公司，除了做模型的，还有一个特殊的HuggingFace （HF） 。这家公司提供的服务是模型市场。这个服务至关重要：如果按照现在的市场格局，未来在AI Agent出现时，模型之间互相调用基本都会用到HF的服务和规则。

当然，这个模式也是有风险的：那就是闭源寡头。 HF相当于在押注AGI时代的开源繁荣。它才是真正和OpenAI走另一条道路的公司。

回到国内，已经有创业公司在模仿HF的模式，但目前还没有看到一个可以接近的。以及，模型市场能做的要比APP应用市场要厚得多：HF自己在搭建模型工程平台，目的是给开源生态提供模型训练和推理服务。这里，它会和巨头云厂商们处在一个既竞争又合作的位置。

最后，稍微扒一下HF这家公司：公司虽然总部和融资在美国，但创始人、核心团队、大头技术研发都在法国。因此，他们和中国 （公司） 的合作空间要比美国公司大得多。

3. 模型工程平台

当数据变得更多的时候，训练模型的效率和稳定性、模型推理的并发量和速度就会越来越重要。当有无数公司甚至个人都需要训练或者部署模型的时候，降低模型训练与部署的门槛就会凸显出来。因此，在大规模商业应用场景之下，模型工程能力的重要性不亚于算法重要性。具体来讲，我看到有这样几个方向：

• 数据吞吐效率： 目的是为了让模型更快速的消费数据，提高训练和推理效率。当前比较火的“向量数据库”主要就是在尝试解决这类问题：根据大模型的数据需求特点来优化数据库性能。

• 平台稳定性： 大模型数据量大、训练时间长，过程中一旦出错会严重影响效率，因此平台稳定性问题的优化也可以大大提升训练效率。

• 推理成本： 之所以单拿出来推理成本来讲，是因为2023年使用AI的用户还不多，大头机器成本都在模型训练上，主要的优化努力也在模型训练。2024年随着用户的增加，对于推理成本的要求会越来越高；而且因为2023年做得还有限，做推理成本的机会也会比较多。

• 推理速度： 最早有大钱的AI的场景应该是推荐-搜索-广告-游戏。这些场景中，生成式内容一定是要做的，除了成本和效果之外最大的瓶颈在推理速度：需要在几百毫秒完成所有动作。当然做这件事情的核心会在大厂，但应该也会有些机会留给市场。

4. 软硬件联合优化 - Firmware固件

首先，3.3讲的所有内容的最大提升都会在软、硬件联合优化中，这里我就不再讲一次了。唯一值得讲的是 因为硬件的多样性和专业性，这里应该有小公司与大厂合作的空间。

此外，NVIDIA强的不仅仅是芯片，更是围绕芯片的Firmware固件和资源库： CUDA。 简单来讲，CUDA是一个资源库，算法工程师只需要找到CUDA里已经准备好的函数就可以操作NVIDIA的芯片，而不用自己去优化使用芯片的性能。这也是华为昇腾、AMD这些厂商最落后的部分。华为们可能单片的性能已经差的不远了，但买了芯片的算法工程师根本不会用……

因此， 硬件领域最大的机遇实际上来自于中美关系的紧张状态。 现在使用NVIDIA芯片的中国公司可能不得不在2024年面临与其的部分脱钩，这样一来，Firmware部分的巨大差距——也是机遇，是需要有人来补上的。当然，能抓住这个机遇的可能是华为 （出来） 的人。

5. 模型安全

模型和其他IT系统一样，都可能被攻击。不过AI时代的攻击方法会有变数。

1. 来自 （很多） AI的攻击。 因此，如何防止带AI智能的，甚至是用Agent能力的饱和攻击就成为新的课题。这里面技术很深，我也不太懂；大的解法肯定是用AI和AI做攻防，但前提是守方AI的智力不能差得太远。

2. AI本身的防攻击。 AI不仅需要防止之前的攻击手法，还要防止对于模型的新的攻击方式：prompt攻击。

3. 兜底：内容检测&审核。 此外，本身AI的幻觉和不可控性也会要求有一定的兜底机制，尤其在我国的监管要求之下。其中最直白的就是在AI输出的内容之后再加一层过滤：专门的审核-过滤的机器人也一定是一个机会。

6. 隐私

隐私会是一个大众广泛讨论的问题，也是大模型走向市场中的阻力之一。但问题在于 1)个人很少会为隐私付费；2)平台和监管都没有真正的动力要做隐私。于是，只讲隐私在商业上大约是伪命题。

但退一步仔细想来，什么是“隐私”？我们为什么会关注“隐私”？

隐私=权力。

这才是我们真正关心和愿意为之付费的地方。这里我也先留个引子，之后的文章会再来展开。

四、端上智能与全天候硬件

在AI上发力的还有手机和PC厂商： 华为、荣耀、小米、OPPO、VIVO、三星、联想等都已宣布会在手机/PC端侧搭载大模型。这个可能性来自于：2023年下半年“模型小型化”的众多进展 （详情见“上篇”） 。

不过，仔细看来，除了很弱的Nvidia Chat with RTX， 目前并没有真正全离线版的大模型产品，端上智能暂时还是噱头。 手机和电脑厂商们的打法基本都是大模型还是放在线上，手机和电脑来调用，然后搭配一个小AI做总结等服务。“端”确实“智能”了，但"大脑"还在线上，手机上顶多有个"脑干"。

纯粹的端上智能有几个问题：

1）离线小模型永远都会和在线大模型有一个代际的能力差距，于是为什么消费者要用一个更傻的模型而不是用线上的模型服务？

2）即使是小模型，它目前的耗能和生热仍然难以达到手机要求。

3）目前的AI还不是刚需，猎奇成分比较多。

4）技术上还不能确认小型化的模型是“真AGI”还是“聊天机器”。所以说，短期内的端上智能仍然会停留在一些个别小市场里。

端上智能最大的想象空间，其实是收集更多个人数据：成为全天候硬件。 这里最明确的例子是接受了OpenAI投资的“AI Pin”：一个挂在胸口的摄像头+麦克风。这个产品本身其实对于用户没啥用，但用处在于可以24x7地收集用户以及其周边的数据，为之后模型训练提供材料。

AI Pin的真实商业模式是一个数据生产公司。 要知道，你的浏览点击记录是按照Bits收的，AI聊天的数据是按照KB收的，AI Pin的视频、音频数据可是按照MB-GB收的，真做成了就又是降维打击！ （你如果愿意相信AI Pin的保护隐私公关稿，那我也没啥可劝的……我只是知道，既能在表面上做隐私，实际上把数据信息拿出去的方法有很多。）

从这个角度来看，2024年会有更多类似AI Pin的“暗度陈仓”式收集个人数据的产品——全天候硬件的出现。

从长远的角度，“端上智能”乃至说“AI的行业格局”其实有两个可能性 。“Plan-A”是集中化世界大模型 + 终端/数据收集器， 这也是目前所有科技大厂-平台公司走的道路，是最高效率的方式的同时，也是极端垄断，大规模中心化操控之路。但我们是否还有另一条 “Plan-B”个人的模型 + 人与模型的合作 可选？

五、“人的模型”与“具身智能”

刚刚讲了“个人的模型”，讲的是模型的“所有权问题”。这里，以及“上篇”提到的“人的模型”，是效果层面的，“人的模型”可以是集中平台来提供的：就像你的个人账号、云上数据一样。所以即使是“PlanB”走不通，“人的模型”都是值得展开讲讲的。

为什么需要“人的模型”？

1. AGI进一步向人学习。 在现阶段AGI发展的初期，与人脑相比，AGI仍然有很多明显的短板：记忆不好、需要过多数据、逻辑性不好、空间-物理能力欠缺……以及当前AI Agent的主攻方向“使用工具->拆解问题->做出决策”的能力。把AGI做得更好的参考就是人脑。当然，当AGI开始超越人的智力成为SGI （Super General Intellegence） 之后，对于人脑的参考就是批判性借鉴了。

2. AGI与人配合。 “人的模型”更重要的一点，是要解决AI如何更好地与人配合，实现1+1>2的路径。只有当模型可以理解个体特点差异的时候，AGI才能与人更有效地配合，甚至成为人的替身。以及，“人的模型”也是“PlanB：个人 （拥有） 的模型”的前提。

如何达到“人的模型”？

我目前也不知道，不过在数据层面上还是有些线索的。目前的大语言模型是“世界模型”：底层数据是来自于千千万万人的，每个人一丁点数据；而并不是大量的来自某一个人的大量数据。“人的模型”大概率是建立在“世界模型”之上，加入关于某个人的大量的、多样的数据。这里有两点：

一点是“大量”， 这也正是前文提到的“全天候硬件/AI Pin”的方向：如何跨越量级地收取关于某个人的数据。只有关于这个人的数据量级到达一定程度，AI才可以“具有某个人的视角”，才会懂得“换位思考”——这正是合作的前提。

第二点是“多样”。 举个简单的例子：盲人很难理解“红色”。类似的，我们也很难要求缺少重力感知装置的AI来理解物理世界。这是目前“具身智能”的赛道。“具身智能”=“具有身体的智能”。更多样化的数据会有利于AI来理解人类。近期Sora中比较突出的“物理世界不真实”的问题，可能要靠陀螺仪、重力传感器、压力/触觉传感器这类数据才能彻底解决。

最后， “具身智能”的意义并不仅仅如此，它是AGI通往物理世界的桥梁。 也是AI可以灵活自主操控“广义机器人”的重要路径。要注意，大多数的“广义机器人”长得并不是人样：机器狗、机械臂、无人机、自动驾驶汽车会是主流。

从目前的技术发展速度以及数据积累速度角度来看，我并不认为2024年会出现能用的“人的模型”或“具身智能”，但作为技术/应用的主线，重大进展大概是看得到的。

六、AI地缘政治：从中美相争到“主权AI”？

我去年5月份写了篇文章《AGI|大模型与大国博弈》，今天来看几个大判断基本是对的：

• 最先进的AGI世界模型不会开源： 不仅OpenAI的GPT4、Sora不开源；连原来支持开源的Google-Gemini，Anthropic-Claude，Mistral-Large都没开源；国内的当然也没有人开源。不过，这并不意味着开源生态会失效，大概率会是开源模型会落后闭源一个代际，但会服务更广泛的各种专业应用。

• 美国对于中国的硬件-科技限制进一步升级。 不赘述了。

• AGI将对于全行业科技发展起到推动作用。 这点目前仅仅是苗头，但AGI在各领域的科研中越来越重要是既定的事实。以及，如果AGI的能力有比较大差距，对于科技进步-经济发展将产生质变性的影响。有更好AGI的国家会有更快的全面技术进步。

• 对于AI的立法、监管、伦理讨论大范围落后于技术发展。 全世界主要国家都急于拥有有自己的AI，当然不会有人搬起石头砸自己的脚。目前唯一有点对于AI治理讨论的只有欧洲，而且也都在纸面上。我国相关法规讨论的出发点完全在于“对于舆论的影响”，根本没有触及AGI本身的伦理问题。决策路径大概是政治>经济>>AI伦理。

更远的判断，只能让时间检验。

和去年相比，2024的AI的政治生态有了一些新变化： “主权AI” 的提法开始浮上水面，我并不认为黄仁勋讲这件事情仅仅是为了股价；这应该是是世界主要国家团体所必然要走的道路。进一步推演，一些比较小的国家并无法拥有“主权AI”，而只能依赖更强大国家的技术；这会在客观上加强使用这些技术的国家对于“AI宗主国”的依赖，成为“AI附庸”； 国际政治的边界有可能会按照AI技术的边界来重新划分。而且，基于技术的控制，要比基于金融资本的控制更加彻底、精细。

最近比较积极的一点，是欧洲有了Mistral-Large，是目前除了OpenAI-GPT4最好的模型。那么，至少欧洲大陆目前还有是否成为美国“AI附庸”的选择。接下来要看的大概还有俄罗斯、印度、日本、沙特、伊朗这些国家……作为各自区域的领袖，这些国家都在期望成为“宗主国”而不是“附庸”。对于我们来讲， 避免“美-中二极对峙”应该是最优先的。

希望“中美相争，AI得利”不会是人类文明的最终章。

七、数据生产的天平：AI超越全人类总和

“众口铄金”。

就像地球在无知无觉中进入了“人类世”的地质纪元一样。 AI视频能力的爆发可能会让“数据纪元”在2025年就进入“AI世”。 我们会逐渐发现，世界上所有人创造的数据量：文字、照片、视频的总和将小于“AI生成内容”和“AI合成数据”。

再远一点，人类自己吃下的信息 （数据） 也几乎都是AI产生的。到这个时候，物理世界的真实还重要吗？当制造出来的数据远大于“真实”的数据的时候，谁还会相信所谓“真实”呢？以及，当模型自我训练的数据来自于大海般的合成数据的时候，人生产出的几滴水还有多少价值？

太科幻了，我还是先停下来思考一下能做的事情吧。

八、AI的需求：能源、算力、机器人

最后，如果真的从“AGI已经出现”的阴谋论出发。那么不管AGI是否在隐藏自己的行踪，它所需要的基本资源一定是无法回避的；它也一定会在这几个领域里全力“协助”人类。于是，相信AGI觉醒的对话，自然会期待在这几个领域里出现划时代的突破——有些似乎已经有进展了。

1. 能源：可控核聚变

最近，有着“永远还差50年”称号的可控核聚变技术在AI的协助下开始有了松动：2月21日的新闻，普林斯顿大学等离子体物理实验室 （Princeton Plasma Physics Laboratory） 通过AI成功在离子体撕裂前300ms进行了预测。当然，这只是可控核聚变进展的一小步。 （https ： //engineering.princeton.edu/news/2024/02/21/engineers-use-ai-wrangle-fusion-power-grid）

从全人类能源供给的角度：化石燃料、水能、风能、地热： 只能维持现阶段全人类能源获取能力；太阳能过于分散、核裂变燃料稀少： 即使最大规模使用，顶多再提升一个能源数量级； 唯一有希望提升全人类能源供给数量级的就是可控核聚变。

在能源即将开始成为AI瓶颈的今天，AGI如果有了意识，那一定会全力“协助”人类突破核聚变技术。

2. 算力：3D堆叠、石墨烯、量子计算、高温超导

算力对于AI的价值更加直接，NVIDIA的股价可能就是最直接的例子。算力的提升目前还在性能上 （而不是硅片栅-漏极间隔的物理尺寸上） 继续延续着摩尔定律；但量子隧穿效应-普朗克长度的理论限制是AGI也无法突破的，因此，一定要有除了工艺尺寸缩小的其他方案。我并不是专业人员，没法给出比较靠谱的判断，从分析上能看到的几条路可能会有：

• 继续在硅基上发展：3D堆叠形态等 （需要更好散热） 。

• 材料创新：硅基掺杂、石墨烯片等。

如果再跳脱一些到计算原理的层次，就是 量子计算 。量子计算目前距离商用可能比可控核聚变还更远，目前的应用方向主要还在量子加密传输上，在“计算”上需要突破的理论和技术都还有不少。

除了计算速度之外，另一个阻碍算力进展的是传输速度：可以想见高速网络会进一步进化、片间链接、片上内存等技术都会有明显的进展。

最后，是能耗和散热问题。这里的明珠是高温超导技术。去年已经有好几篇半造假的“高温超导突破”，今年加上了AI或许就会有真的突破。

3. 广义机器人

最后，如果AGI的目标不是仅仅停留在虚拟世界，而是直接作用于物理世界，那么广义机器人就是必经之路。前文提到的“具身智能”就是为了操控机器人的AI：AGI是大脑，他也会想要身体。

除了上面讲到的“智能/大脑”的问题，AGI还会关心的是 广义机器人的数量 。甚至说，先有了数量比先有一个好的大脑更重要，因为有了数量就可以收集更多数据让大脑进一步进化。在数量的突破上，主要不会是人形机器人，而是无人驾驶汽车、无人机、传感器这类技术更ready，成本更低的硬件。AGI只需要在它需要的时候，入侵一下这些系统就够了。

后记：AGI降临中的“普通人”

洋洋洒洒讲了这么多，最后我想引用月之暗面杨植麟的一句话，《对话月之暗面杨植麟》道出了AGI创业的真理：

“只有‘智慧’才是AGI的真正增量。”

此外，AGI对于社会、对于普通人最深刻的影响，可能是 极端垄断 。“极端”的意思是拥有AGI的公司/团体可以跨越行业、跨越国家进行最大规模的垄断。这种垄断 一方面是对于“智慧”这个资源的独占， 另一方面，是对于每一个其中的个体、公司、政府所进行的 精细信息操控。

然而可惜的是，在种种宏大叙事面前，对于个体关注的声音越来越小：23年中有一轮“AI对于各行业就业影响”的报告，以及“全民收入”的论调，但之后就没有然后了。

作为拯救派，我今天并不想展开讲AGI所造成的各种问题；因为只谈问题是没有用的。

作为拯救派，要给解法才行。

我们还需要思考的，是在AGI降临的世界中，个体如何生存、如何寻找并创造自己的价值；同时，我们也在尝试探索一种在AGI世界中的新的分配方式，一种让大多数人类个体也有希望的方式。

附录：AGI机会点（2024.02）

2024年内：

• 图片-超短视频的精细操控：表情、细致动作、视频-文字匹配。

  
  

• 有一定操控能力的生成式短视频：风格化、动漫风最先成熟；真人稍晚。

  
  

• AI音频能力长足进展：带感情的AI配音基本成熟。

  
  

• “全真AI颜值网红”出现，可以稳定输出视频，可以直播带货。

  
  

• 游戏AI NPC有里程碑式进展，出现新的游戏生产方式。

  
  

• AI男/女朋友聊天基本成熟：记忆上有明显突破，可以较好模拟人的感情，产品加入视频音频，粘性提升并开始出圈。

  
  

• 实时生成的内容开始在社交媒体内容、广告中出现。

• AI Agent有明确进展，办公场景“AI助手”开始有良好使用体验。

  
  

• 2AI的商业模式开始有明确用例：数据合成、工程平台、模型安全等。

  
  

• 可穿戴-全天候AI硬件层出不穷，虽然大多数不会成功。

  
  

• 中国AI达到或超过GPT4水平；美国出现GPT5；世界上开始现“主权AI”。

  
  

• 华为昇腾生态开始形成，国内推理芯片开始国产替代 （训练替代要稍晚） 。

  
  

• AI造成的DeepFake、诈骗、网络攻击等开始进入公众视野，并引发担忧。

  
  

• AI立法、伦理讨论仍然大规模落后于技术进展。

  
  

• ……

2025~2027年：

• AI 3D技术、物理规则成熟：正常人无法区别AI生成还是实景拍摄。

  
  

• 全真AI虚拟人成熟：包含感情的AI NPC成熟，开放世界游戏成熟；游戏中几乎无法区别真人和NPC。

  
  

• AR/VR技术大规模商用。

  
  

• 接近AGI的技术出现。

  
  

• 人与AI配合的工作方式成为常态，很多日常决策开始由AI来执行。

  
  

• AI生产的数据量超过全人类生产数据量，“真实”成为稀缺资源。

  
  

• 具身智能、核聚变、芯片、超导、机器人等技术有明显进展突破。

• “人的模型”出现，出现“集中化AGI”与“个人AGI”的历史分叉。

  
  

• AI引发的社会问题开始加重，结构性失业开始出现。

  
  

• AGI对于地缘政治的影响开始显露。

  
  

• ……

本文来自微信公众号： 普通人的AI自由（ID：AI_Liberty_Guide） ，作者：Lian et Zian