跳到主内容
皇冠体育官网

港大教授创业,雷军华为都投了:一条"非主流"技术路线,想改写大模型"逐字生成"的老办法

2026-10-14 · 皇冠体育官网

一家名为DiffuSpace的企业,近期完成了数亿元人民币的融资,这是“扩散语言模型”领域迄今为止全球规模最大的一笔交易。创始人孔令鹏是香港大学的教授。投资方阵容中,经纬创投、顺为资本和君联资本共同领投,中科创星、华为哈勃以及地平线则作为跟投方参与——顺为资本由雷军创立,而华为哈勃是华为旗下专注于投资的平台。

这家公司所押注的,是一条与当前所有主流大模型截然不同的技术路径。这条路径能否走通,不仅关乎这家企业的命运,更将影响整个大模型行业的未来走向。

一、一条“非主流”路径,雷军与华为均参与投资

当前所有主流大模型——例如GPT、DeepSeek、智谱——都遵循同一条技术路线,即“自回归”。其原理颇为简单:逐字向后生成。先输出第一个字,然后根据第一个字生成第二个字,如此循环往复,直至完成整个句子。

这套方法已主导大模型领域数年,但它存在一个固有的缺陷:速度缓慢。因为要生成一百个字,就必须执行一百个步骤,任何一个字都无法跳过。

DiffuSpace则押注于另一条路径,名为“扩散”。这一概念源自图像生成领域——Stable Diffusion正是利用扩散模型来绘制图像。扩散的思路与自回归截然不同:它不是“逐字敲击”,而是“整体涂抹、并行生成”。蚂蚁集团的赵俊博有一个生动的比喻:扩散模型能够“直接修改Token”,而不像自回归那样只能向后书写。

在此,将两条路线的差异进一步细化。自回归模型生成一句话,如同打字员逐字敲打,若中途想修改前面的字,只能删除后重来。扩散模型则更像绘画,先在画布上涂抹一层模糊的基底,然后反复“去噪”,使其逐渐清晰,并且可以任意修改任何位置。这种差异决定了它们的适用场景:从头撰写新文本时,自回归足够胜任;但若要修复一个漏洞、改动一段逻辑、或在中间插入一句话,扩散模型天生就更为擅长。

因此,扩散语言模型最大的卖点在于“快速”与“可修改”:并行生成令其速度更快,整体涂抹使其能在任意位置下笔。

孔令鹏是香港大学教授,从学术界投身创业,所走的就是这条“非主流”路线。顺为资本、经纬创投、君联资本、华为哈勃、地平线——如此多顶级资本同时押注一条尚未被验证的路径,表明它们赌的并非“扩散必定成功”,而是“万一扩散成功,则先占据有利位置”。这与当年押注“开源还是闭源”、“Transformer还是RNN”的逻辑如出一辙——技术路线的竞争,押错方向可能导致数亿投资打水漂,押对方向则能拿到下一个时代的入场券。此外,这家公司还预告将于10月发布参数更大的模型,这表明它不满足于“演示”,而是意图实实在在地将扩散语言模型做大做强。

二、扩散的优势,正被自回归逐渐追平

然而,扩散这条道路远非其宣传中那般顺畅。

第一个问题在于,它引以为傲的“快速”打了折扣。自回归模型在推理时,有一种名为KV-cache的加速技术——将已计算过的内容缓存起来,生成下一个字时无需重新计算。这里解释其重要性:自回归每生成一个新字,都需“回溯”前面所有已生成的字,若不缓存,每生成一个字都要将前面的字重新计算一遍,速度将慢到无法接受。KV-cache正是将已算出的结果存储起来,每次仅计算增量部分。而扩散模型是“整体并行”的,没有这种“从前到后”的顺序,因此无法利用这一加速技术。所以,扩散的“并行”是以“无法缓存”为代价换来的,此消彼长,优势便不那么显著了。

第二个问题更为根本。扩散模型引以为傲的另一项能力是“任意顺序生成”——可以填空、可以从中间开始、可以修改。但已有论文证明,自回归模型通过特殊训练,也能实现“任意顺序生成”,与扩散模型相匹敌。换言之,扩散的差异化卖点,正被自回归一点一点地追平。

还有第三层问题。有理论分析直接指出,扩散语言模型未必优于自回归,结果甚至可能相反。原因在于,扩散在图像领域取得成功,是因为图像是连续的——像素可以模糊、可以渐变,“逐步去噪”天然适配。但语言是离散的,一个字就是一字,对错分明,扩散的“去噪”在离散空间中难以实施。这是扩散语言模型最根本的理论障碍。

因此,扩散当前的处境有些尴尬:优势在逐步缩小,而障碍却始终未能消除。但为何仍有如此多资本押注?答案需从更底层寻找。

三、“Token必须消亡”:这场较量的底层,是范式革命

要回答这个问题,需将视角拉至最底层。

扩散语言模型真正的障碍,在于“Token”本身。Token是“词元”,是当前所有大模型的基本单位——无论是自回归还是扩散,都在Token层面上运作。但已有人喊出更激进的口号:“Token必须消亡”。意思是,Token这种离散的表示方式,本身就限制了模型的能力,下一代模型应放弃离散Token,转而采用连续的表示。

如果这一判断成立,那么这场“扩散与自回归”的争论,其实只是更大变革的一个前奏——真正需要改变的,是Token这个基础本身。而扩散之所以被推到台前,是因为它在“连续表示”这条道路上,比自回归走得更近了一步。它不仅仅是一条技术路线,更像是一次范式革命的探路者。

而行业最顶层的人士也已开始反思。Karpathy——前OpenAI、特斯拉AI负责人,AI圈最具影响力的人物之一——于2025年11月发帖称,人类的思维或许更偏向自回归,但潜意识中“很难说就不存在某种更像扩散的机制”,两者之间“可以插值、甚至泛化”。知名研究者Sebastian Raschka在2026年预测中也写道:Transformer统治依旧,但扩散模型正悄然崛起。

更关键的是,这并非DiffuSpace一家的赌注。谷歌于2025年5月发布了扩散版Gemini——Gemini Diffusion,2026年又开源了扩散模型DiffusionGemma。蚂蚁集团的赵俊博公开谈论扩散,其团队还开源了千亿参数的扩散模型LLaDA 2.0。华为哈勃也在进行投资。这表明“扩散”已从“一家公司的豪赌”,转变为“巨头们的共识性试探”——大家都在试探,下一代大模型究竟该长什么样。当一个技术方向同时被谷歌、蚂蚁、华为这些巨头用真金白银或人力资源进行布局时,它就不再是边缘的“非主流”,而是“下一个范式”的候选者之一。

此外,扩散语言模型当前最务实的一条路径,并非“从头训练一个扩散模型去颠覆自回归”,而是“将已有的自回归模型适配为扩散模型”——DiffuSpace自己的Dream 7B正是如此操作,它使用Qwen2.5 7B的自回归权重进行初始化,再转为扩散范式。这表明扩散目前仍离不开自回归的基础,它更像是自回归的一个“升级补丁”,而非一个“替代者”。

回到DiffuSpace。它所押注的这条扩散路线,真正的价值或许不在于“取代自回归”,而在于“补上自回归做不好的那一块”——代码编辑、文档修改、Agent的自我修正。自回归只能向后书写,想修改前面需删除重来;扩散则能直接修改任意位置。这种“可修改”的能力,在代码场景中具有实实在在的用途。

因此,这场路线之争的结局,可能并非“谁取代谁”,而是“分工协作”:自回归负责生成,扩散负责修改。而DiffuSpace,以及其背后的经纬创投、顺为资本、君联资本、华为哈勃、地平线,所赌的是这个“修改”的市场是否足够大,是否值得现在就用数亿人民币去卡位。

这种“分工”的图景,在AI历史上曾出现过一次。当年图像生成领域,上一代范式是GAN,后来被扩散模型彻底取代——因为扩散画出的图像,质量肉眼可见地碾压GAN。有人会问:语言领域是否会重演?答案可能不会那么干脆。因为GAN被取代,是扩散在“质量”上碾压了它;而扩散在语言上,质量能否碾压自回归,至今未被证明。更可能的结果,不是“扩散取代自回归”,而是“两条路线共存、各司其职”——自回归继续做“生成”,扩散去做“修改和编辑”。这比“颠覆”温和,也比“消失”实在得多。

至于“Token是否会消亡”、自回归是否会被颠覆,那是更大的问题,Karpathy等人也尚未想清楚。DiffuSpace能做的,是先站在“质疑自回归”这条战线上,在扩散语言模型这个尚未有人站稳的位置上先占据一席之地。而关于这一领域的更多信息,可在皇冠官网找到相关动态。

更多文章