本轮均轮泡沫:为什么自回归 LLM 是 AI 的托勒密本轮

万亿参数语言模型并没有走在通往通用智能的路上——它们走在通往科学史上最繁复的曲线拟合工程的路上。数学迟早会找上门来。

发布于 2026 年 7 月 11 日 · 文 / Lin Kong

人工智能领域正被一种空前的自大幻觉笼罩。看着万亿参数的 Checkpoint 文件,看着大语言模型(LLM)滔滔不绝、上下文随行的生成结果,社会把宏大的统计插值误认成了真正的认知。投资人、技术人和评论者动辄宣称:距离人工通用智能(AGI),我们只差几个 exaFLOP。

然而,揭开资本密集的暴力算力面纱,真相令人清醒:当前的自回归架构,是一种笨拙的、极不科学的智能进路。我们没有去解码现实世界优雅的基础规则,而是试图用堆叠无穷的权重参数,把人类产出的整个光谱「背」下来。

这种暴力方法已经触及结构性极限。它面临一道不肯让步的数学障碍:混沌动力系统固有的蝴蝶效应。

I.统计本轮的缺陷

传统物理依靠简洁的第一性原理方程为复杂系统建模。牛顿定律或爱因斯坦场方程,用少得难以置信的参数集就能描述天体力学。与之形成鲜明对照,现代生成式深度学习放弃了对底层因果公式的追寻,转而部署数十亿多维参数,去拟合人类文本与图像的概率分布。

这条路线效率极低,且在根本层面上不科学。在科学史上,它的镜像是托勒密天文学:为了在死守地心模型的前提下解释行星运动,古代天文学家造出了「均轮」与「本轮」的超复杂系统——圆上再叠圆。托勒密的本轮确实能准确预测日月食,但底层框架整个是错的。^[1]

Checkpoint 文件里的现代参数,就是这些托勒密本轮的数字等价物。它们不编码宇宙的物理定律,而是存储一张静态的高维地图,图上画的是人类生成的各种结果。正如发表于 Nature 系列期刊的研究所确立的:生成模型确实展现了基于文本分布的发散联想能力,令人印象深刻,但它们完全依靠表层模式复制运作。^[2] 它们并不具备对物理或逻辑系统的真值理解。^[3]

II.自回归的蝴蝶效应

因为这些模型没有因果地基,它们对蝴蝶效应高度脆弱——那是混沌动力系统的标志:初始条件的微小扰动,会彻底改变系统的最终状态。

在一个真实向前演化的物理系统里,时间与因果单向流动:

自回归模型把这个过程倒了过来。它用逐 token 的条件概率框架:

模型分析已有的人类数据(历史结果),尝试反推统计上最合理的下一个词。^[4]

这套方法触发巨大的误差级联,也就是数字世界的「蝴蝶效应」。LLM 生成长序列时,它输出的每一个 token 都会成为下一步 prompt 中不可更改的一部分。如果模型选中了一个次优 token——哪怕概率方差微乎其微——这个选择就成了一个被挪动过的初始条件。经过几十层塞满矩阵乘法的 transformer,这点小误差呈指数放大。

这个误差级联解释了为什么长篇推理、复杂数学证明和长代码生成会常规性地崩成胡言乱语。模型并不沿着逻辑的不变轨迹行走,它在一片脆弱的概率流体上滑行——一个被改动的逗号,就能让它的「思维链」彻底脱轨。

III.世界模型的到来

当行业撞上「数据墙」——高质量人类文本的枯竭——再加上 Scaling Laws 惊人的能耗需求,这个参数虚胖的泡沫终将破裂。^[5] 在崩塌之后,一个高度精确的范式会浮出水面:世界模型。

正如 Yann LeCun 等开创性 AI 研究者所论证的,真正的智能不能依赖预测表层文本或像素。^[4] 它需要一个模块化的认知架构,去学习物理、原因与结果的内部表征。未来的自主智能体不会用万亿参数的骨干网络去背句子,而会用紧凑的自监督系统——比如联合嵌入预测架构(JEPA)——来预测环境中的抽象结构变化。^[1]

IV.终极物理悖论:时间之箭

从自回归拟态到真正的世界模型,这次过渡将揭示一个深刻的物理事实:真正的智能需要编码时间的不对称性。

当前的语言模型活在一个死寂的、无时间的数学空间里。对 transformer 来说,文本正着解析、反着解析都行;它操纵的只是静态的双向或单向注意力矩阵。

而一个真正的世界模型,必须与物理宇宙交互。要预测一个系统的未来状态,模型必须把热力学的核心信条写进硬编码:因果性与熵。

想想一只被打碎的花瓶。一个正向的物理模型会积分重力、冲击与结构断裂的力:

这个正向推进很容易计算。但要倒解这个方程、重构那只碰倒花瓶的猫的精确轨迹,就需要关于热耗散、声波弥散和分子摩擦的无穷微观信息。信息被不对称地丢失给了环境。

当 AI 精确映射真实世界时,它的数学将与热力学第二定律正面相遇。它会发现:微小的改变可以在未来造成巨大的分歧(正向的蝴蝶效应),但一个巨大的未来状态无法坍缩回一个单一、无歧义的过去——除非违反能量守恒。

V.结语

当前这个巨型 Checkpoint 文件加逐 token 拟态的时代,只是一个短暂的技术枢纽。它是一场昂贵的尝试:绕过我们对自己心智究竟如何建模现实的无知。

真正的通用智能,不会靠用数字参数造更大的百科全书来实现。它会靠造一台优雅、节能的因果引擎来实现。当那台机器最终被造出来,它拥有智能,不是因为它背下了人类语言,而是因为它的数学明确尊重因果之间单向的权重,以及时间之箭的不可动摇。^[11]