← 2026-09-21 期
No Priors00:38:13 节目 · 16 分钟阅读

扩散语言模型为什么押注推理速度:Inception 的技术路径与商业边界

Why Diffusion Will Win AI Inference with Inception Co-Founder and CEO Stefano Ermon

主持 Sarah Guo;嘉宾 Stefano Ermon,斯坦福教授、Inception 联合创始人兼 CEO

节目日期(北京时间) 2026-09-18来源标注:完整音频转写
THE BRIEF

三句话速览

  1. 01

    Stefano Ermon 介绍从图像去噪研究走向扩散语言模型的过程,并解释 Inception 为什么认为推理阶段的并行性值得押注。

  2. 02

    Mercury 目前把低延迟作为商业切入口,尤其关注语音代理等必须迅速响应的工作负载,而不是宣称已达到最高前沿智能。

  3. 03

    公司优势不仅要来自模型想法,还要来自自建服务引擎、客户反馈与评估;这些同时也是新架构的成本、采用障碍和不确定性。

核心判断

本期不是‘扩散已经取代自回归’的胜利宣言,而是一条值得测试的工程和商业假设:当质量达到某个任务的要求后,更快、更便宜的推理可能比继续追逐最高通用能力更有价值。Ermon 明确承认未来架构胜负未知、当前模型不是最高前沿水平、规模参数也未披露。正确的阅读方式是把并行计算优势、客户体验和整体经济性分开验证。

THE ARGUMENTS

10 条核心观点

01

扩散的出发点是反复修正,而不是从左到右一次写完

英文观点句 · 基于完整节目忠实转述

Diffusion generation refines a noisy object through repeated denoising instead of committing to each output token in a strictly left-to-right sequence.

中文直译

扩散生成通过反复去噪来改进一个带噪对象,而不是按照严格从左到右的顺序逐个确定输出词元。

难词注译
  • refines:逐步改进、细化
  • denoising:去噪;学习从受扰动状态恢复结构
  • committing to:确定并保留某个选择

原文语境

02:59—04:57,Ermon 回顾与 Yang Song 在 2019 年的去噪研究:从带噪图像逐步恢复结构,进而形成生成过程。后来他希望把这种更并行、具有修正机会的方式扩展到文本和代码。

观点解读

这是理解生成过程的直觉,不应把图像像素噪声原样套到单词上。文本是离散对象,不能像两个颜色那样自然插值;如何定义扰动与恢复目标需要专门研究。扩散也并非完全没有顺序计算,它仍需要多个迭代步骤。

02

训练能并行,不代表自回归生成也同样并行

英文观点句 · 基于完整节目忠实转述

Transformer training can process many tokens in parallel, while autoregressive generation still depends on previously generated tokens at inference time.

中文直译

Transformer 训练可以并行处理许多词元,而自回归生成在推理时仍依赖此前生成的词元。

难词注译
  • autoregressive generation:自回归生成;后续输出以先前输出为条件
  • in parallel:并行地
  • inference time:推理时、模型实际生成输出的阶段

原文语境

07:04—10:06,嘉宾区分训练与推理,类比 RNN 到 Transformer 的训练并行化。他认为自回归推理中逐词元依赖造成内存搬运与硬件利用上的约束,扩散可同时处理多个位置,更接近 GPU 擅长的计算形式。

观点解读

这不是‘扩散对抗 Transformer’:Inception 的模型仍使用 Transformer 和注意力。对比对象是生成范式,而非简单互斥的网络名称。具体速度仍受批量、序列长度、步数、内核与服务系统影响,不能仅凭架构名称断言所有负载更快。

03

速度可能影响推理、测试时计算和强化学习三个环节

英文观点句 · 基于完整节目忠实转述

Faster inference can improve response latency and increase the number of candidate trajectories that a fixed compute budget can explore.

中文直译

更快的推理可以改善响应延迟,并增加固定计算预算能够探索的候选轨迹数量。

难词注译
  • response latency:响应延迟
  • candidate trajectories:候选轨迹;模型尝试的多步行动或推理路径
  • fixed compute budget:固定计算预算

原文语境

10:06—11:08,Ermon 将每美元、每瓦特的有效智能联系到推理扩展;强化学习后训练也需要生成大量 rollout 再评分,因此生成效率可能影响训练反馈循环。

观点解读

更多候选不自动等于更高质量,前提是任务有有效的评分、筛选和学习机制。应用团队可以同时观察响应耗时与在同一预算下的合格结果数,而不是只比较每秒词元。这里是嘉宾提出的扩展逻辑,不是本报告复现过的训练实验。

04

小规模可行性证据,不等于所有规模的胜负已定

英文观点句 · 基于完整节目忠实转述

Matching an autoregressive baseline at a small research scale demonstrates feasibility, but it does not establish superiority at every model size or task.

中文直译

在较小研究规模上匹配自回归基线证明了可行性,但并不能确立在每种模型规模或任务上的优势。

难词注译
  • baseline:基线;用于比较的参照模型
  • feasibility:可行性
  • superiority:优势、优越性

原文语境

05:04—05:58,嘉宾称 2024 年研究在 GPT-2 级别、不到十亿参数条件下匹配相同参数量自回归模型的困惑度,并实现约十倍生成速度;22:33 起再次把困惑度解释为学习数据结构的一个信号。

观点解读

十倍属于特定研究条件的回顾,不能当成每款 Mercury、每个客户任务的保证。困惑度接近也不直接证明工具调用、事实正确性或复杂推理一样好。报道应保留规模、基线和指标,而不是只摘出加速倍数。

05

现在卖的是足够质量下的低延迟,而非最强通用智能

英文观点句 · 基于完整节目忠实转述

Inception's current commercial wedge is low latency at a useful quality level, not a claim that Mercury already matches the most capable frontier models.

中文直译

Inception 当前的商业切入口是在有用的质量水平下实现低延迟,而不是声称 Mercury 已经匹配能力最强的前沿模型。

难词注译
  • commercial wedge:商业切入口;先打开市场的具体优势
  • low latency:低延迟
  • most capable:能力最强的

原文语境

12:21 起,Ermon 将 Mercury 与前沿厂商的速度优化模型比较;16:46 起讨论客户为何愿意为更快响应付费。29:20 他明确承认当前还不是最高前沿智能,并估计某些低延迟敏感任务可能构成机会。

观点解读

用户不总需要最高推理能力,但必须先满足任务质量底线。20%—30% 的延迟敏感工作负载是嘉宾基于外部任务分类的粗略估计,不是 Mercury 当前份额或已验证市场规模。适合从具体负载选型,而非宣布全面替代。

06

语音代理把多个延迟串在一起,模型速度有直接体验价值

英文观点句 · 基于完整节目忠实转述

In a voice-agent pipeline, language-model latency adds to speech recognition and speech synthesis delays, making speed a practical product constraint.

中文直译

在语音代理流程中,语言模型延迟会叠加在语音识别和语音合成延迟之上,使速度成为实际的产品约束。

难词注译
  • speech recognition:语音识别
  • speech synthesis:语音合成
  • product constraint:产品约束条件

原文语境

17:37—18:48,嘉宾以 OpenCall 为例解释 ASR、LLM、工具调用与 TTS 的链条,称客户此前使用定制芯片以获取速度,后来改用 GPU 上的扩散模型。此处是公司客户案例自述。

观点解读

真正要测的是用户说完到收到有效回复的端到端时间,以及工具调用成功率,而非模型孤立的吞吐数字。输入处理、网络和外部工具也可能成为瓶颈;本报告未实际测试该客户,也不据此证明所有 GPU 部署优于定制硬件。

07

软件加速与硬件优化可能互补,不必二选一

英文观点句 · 基于完整节目忠实转述

Architectural efficiency and specialized hardware can be complementary, although their combined benefit must be measured on the actual workload.

中文直译

架构效率和专用硬件可以互补,尽管它们的组合收益必须在实际工作负载上测量。

难词注译
  • specialized hardware:专用硬件
  • complementary:互补的
  • combined benefit:组合收益

原文语境

18:49—19:34,主持人追问高带宽或大容量片上存储等硬件路线与新模型架构的关系。Ermon 认为软件和硬件收益可能叠加甚至相乘,也设想未来出现更适配扩散模型的硬件。

观点解读

‘可能相乘’是方向判断,实际系统仍可能受共享瓶颈限制。采购和研发决策应在相同质量、并发、长度与成本口径下比较,记录端到端延迟分布;不应只把两个宣传倍数相乘后当成可交付结果。

08

新架构的护城河,也可能是它最重的工程负担

英文观点句 · 基于完整节目忠实转述

A new serving engine and customer-derived evaluations can strengthen a model company's moat while also increasing the cost of adoption and maintenance.

中文直译

新的服务引擎和源于客户的评估可以增强模型公司的护城河,同时也增加采用和维护成本。

难词注译
  • serving engine:服务引擎;负责在生产环境运行模型的系统
  • customer-derived evaluations:从客户实际任务形成的评估
  • moat:护城河、难以复制的竞争优势

原文语境

12:54 起他解释现有常用服务栈不能直接支持其模型,需要自建引擎;20:06—21:42 讨论客户反馈、数据与评估如何变成可积累资产。30:12—31:46 又承认内核、后训练等生态不成熟,闭源保护知识产权也降低社区贡献和本地部署便利。

观点解读

论文思路被复制不意味着完整产品容易复制,但自建全栈也会消耗小团队资源。客户应同时考察模型效果、接口稳定性、可迁移性和运维支持;研究创新不应掩盖交付复杂度。

09

兼容现有接口可以降低迁移门槛,控制能力仍需验证

英文观点句 · 基于完整节目忠实转述

An API-compatible diffusion model can fit into an existing application stack, while new forms of intermediate steering remain a separate product opportunity.

中文直译

一个 API 兼容的扩散模型可以融入现有应用技术栈,而新的中间过程引导方式仍是另一项产品机会。

难词注译
  • API-compatible:与既有 API 兼容的
  • application stack:应用技术栈
  • intermediate steering:对中间生成过程的引导

原文语境

24:47—27:24,嘉宾称 Mercury 保留文本输入输出、兼容常用接口与结构化输出,使客户延续原有控制层;随后讨论从粗到细生成可能允许在中间阶段根据约束或奖励调整方向。

观点解读

已经提供的接口兼容,与未来可能提供的控制方式不能混写。满足 JSON 格式也不证明内容正确或安全;学术上的可控性证据不等于所有生产场景都已实现更可靠约束。迁移后仍需重跑本业务评估。

10

AI 加速实验,但人类仍负责选择有希望的问题

英文观点句 · 基于完整节目忠实转述

AI tools accelerate Inception's experimentation, but Ermon says human judgment still matters for selecting promising research directions and pruning unproductive ones.

中文直译

AI 工具加快了 Inception 的实验,但 Ermon 说,人类判断对于选择有希望的研究方向和剔除无效方向仍然重要。

难词注译
  • experimentation:实验探索
  • promising:有希望的、值得进一步尝试的
  • pruning:修剪;这里指剔除低价值方向

原文语境

32:52—35:13,Ermon 说团队大量使用前沿模型、迭代更快,但目前还没有到不需要人类研究判断的程度。公司约 50 人,一部分服务当前模型和客户,另一部分建设下一代。结尾以扩散研究、FlashAttention 和 DPO 回顾学术界通过新想法影响产业的路径。

观点解读

这与本期 AIDB 对‘AI-led’定义的提醒形成呼应:自动化执行与自主设定研究方向不同。小团队可以用工具扩展实验能力,但仍需要明确资源分配、停止条件和质量判断;嘉宾也承认六个月或一年后情况可能变化。

A CLOSER LOOK

深度分析

速度优势要经过任务质量这道门

推理更快的直接吸引力很强,尤其在语音、交互编辑和多轮工具调用中。但如果更快的模型需要更多返工,或无法完成关键推理步骤,单次生成速度就会误导产品选择。Ermon 把当前对比限定在速度优化模型,并承认最高前沿能力的差距,使这一边界非常清楚。

更合适的决策单位是一个合格任务,而不是一个词元。把用户等待、工具调用、格式错误、重试和人工纠正全部纳入成本,才能判断扩散路线的优势是否落在自己真正关心的位置。

底层范式创新,必须带着服务系统一起前进

新生成方式不是训练出权重就结束。服务引擎、GPU 内核、后训练、评估和产品接口都可能需要重新适配。Inception 把这些工作视为护城河,同时也承认它们减慢生态成熟,这两点并不矛盾。

对创业公司,优先选择延迟敏感且价值清楚的任务,可以让工程投入得到早期反馈;对客户,应把服务可靠性和迁移成本列入采购评估。技术新颖不是采用理由,业务中可重复出现的优势才是。

兼容性负责今天,新的控制方式决定明天

API 兼容让现有应用可以较低成本试用,避免架构变化要求客户重写全部工作流。与此同时,粗到细生成也可能产生不同的中间控制接口,允许产品在对象尚未完全生成时施加约束。

今天的兼容输出和明天的原生控制体验属于两个阶段。不能因为研究上存在潜力,就把它写进当前产品能力清单;但也不应只把新架构看成一个更快的替代接口,忽略未来可能出现的新工作方式。

本期与企业治理报告的共同线索:执行与判断分离

Ermon 说 AI 已显著加速实验,但人类仍在寻找正确问题和排除无效方向。本期 AIDB 同样提醒,AI-led 的研发定义仍可能由人设目标并监督。两者共同反对把工具参与度直接等同于完整自主性。

工作流建设者可以据此分别衡量生成速度、实验质量、方向选择和最终业务结果。只提高其中一项,不能自动推导整个系统已经更可靠、更自主或更有价值。

LISTEN AGAIN

值得回听的时间点

00:35

研究背景与生成模型直觉

最早关注从无标签数据学习结构和世界模型。

02:59

从图像去噪到文本

GAN 不稳定促使研究者探索另一条生成路径。

05:04

2024 年小规模突破

匹配困惑度与速度提升都有实验条件。

07:04

训练与推理的并行性

扩散仍可使用 Transformer,不是二者互斥。

11:13

连续数据与离散语言

像素可插值,不代表单词可以自然插值。

12:21

Mercury 的当前质量与服务栈

对比速度优化模型,而非宣称最强通用智能。

16:46

什么客户愿意为速度付费

低延迟是产品体验约束。

17:37

语音代理客户案例

观察 ASR、模型与 TTS 的端到端链条。

19:34

新架构公司的竞争优势

引擎、反馈与评估比单一想法更难复制。

21:42

压缩、结构与困惑度

统计结构拟合不自动证明代码任务正确。

24:47

接口兼容和中间控制

区分现有能力与未来产品机会。

27:26

数据效率与未知涌现

嘉宾将规模化效果明确保留为未定问题。

29:04

工作负载机会估计

20%—30% 是嘉宾估计,不是市场份额。

30:12

生态与闭源取舍

自建内核、后训练与部署增加工程负担。

32:52

AI 辅助研究和团队结构

迭代加速尚未替代方向判断。

35:14

学术研究如何继续产生影响

新想法与反共识试验并不只依靠最大训练规模。

人物、工具与数字

Stefano Ermon / Yang Song:嘉宾回顾的学术合作与去噪生成研究;姓名按官方节目元数据校正。Inception / Mercury:扩散语言模型公司与产品系列,访谈披露约两年、约 50 人;未披露训练规模、参数或 FLOPs。GPT-2 级别、不到十亿参数、约十倍速度:2024 年研究条件下的嘉宾回顾,不是通用性能保证。Transformer / attention:Inception 仍沿用的网络组件;扩散和自回归描述的是不同生成方式。ASR / LLM / TTS:语音识别、语言模型、语音合成,共同决定语音代理体验。OpenCall / Cerebras / NVIDIA:公司讲述的客户与硬件案例,未由本报告做独立对照测试。vLLM / SGLang:嘉宾用来说明其专用服务引擎需求的已有生态,不据此断言这些项目永久不支持扩散。20%—30%:嘉宾对延迟敏感任务机会的粗估,不是用户数、收入或行业份额。SFT / RLHF / RL:新架构也需要相应后训练系统,属于全栈工程负担。FlashAttention / DPO:结尾提及的学术创新案例;用于说明小规模原创思想可以影响产业。
PERSPECTIVES

立场与分歧

共同立场

  • 主持人与嘉宾都认为,在算力受限环境下,效率与延迟的重要性会上升。
  • 新架构需要通过实际客户与完整服务系统证明价值,不能只停留在论文。
  • 最终架构胜负和规模化涌现能力仍有不确定性。

主要分歧

  • 主持人追问大实验室复制技术的风险,嘉宾把护城河扩展到服务系统和客户反馈。
  • 主持人质疑代码等离散噪声数据与图像的结构差异,嘉宾用困惑度和压缩视角解释,但承认最佳归纳偏置仍是经验问题。
  • 嘉宾看好闭源保护知识产权,同时承认这削弱社区贡献、本地部署和采用便利。
INTO PRACTICE

工作启发与行动

  • 模型选型可以从延迟预算和任务质量阈值出发,而不是先按排行榜决定供应商。
  • 创作工具与语音产品应测量端到端可用结果,不只测生成吞吐。
  • 新架构创业需要同时考虑研究成果与生产服务栈的负担。
  • AI 研究自动化应保留实验选择、评分设计和停止判断的责任人。

可以从这里开始

  1. 找一项真实低延迟任务,用相同输入、长度、并发和质量标准比较两个候选模型。
  2. 同时记录首个有效响应、完整完成时间、P95 延迟、结构化输出成功率与单位合格结果成本。
  3. 单独测量网络、语音识别、模型、工具和语音合成的耗时,避免优化错误瓶颈。
  4. 迁移 API 兼容模型后仍重跑安全、工具参数、格式与异常处理评估。
  5. 评估供应商退出和迁移路径,包括数据导出、模型更换、错误日志与本地部署需求。
  6. 对论文或营销中的倍数记录基线、规模、硬件、批量与质量条件,没有同口径时不直接横比。
EVIDENCE & LIMITS

事实、观点与不确定项

本期基于完整节目内容整理。节目中的二手引用、嘉宾自述和编辑推断分别标注,不将其等同于独立事实调查。

已核对的来源与节目内容

  • 官方 RSS 发布时间为 2026-09-18 10:00 UTC,即北京时间 18:00;完整音频约 38 分 14 秒。
  • 本次未取得可导出的官方 YouTube 字幕,使用完整 RSS 音频分四段转写,共 641 个识别片段,全部阅读至片尾。
  • 访谈中嘉宾明确表示当前模型未达到最高前沿智能,且拒绝披露模型规模和训练 FLOPs。
  • 他说仍使用 Transformer 与注意力,因此不能把本期理解为‘扩散替代 Transformer 网络’。

观点与判断

  • 并行方案最终胜出、效率将越来越重要,是嘉宾的研究与商业押注。
  • 20%—30% 工作负载特别重视延迟,是粗略机会估计。
  • 数据效率和新控制方式在更大规模上的潜力,是待验证方向。
  • 本报告的同口径评估与迁移测试建议,是对访谈的工程实践延伸。

仍需留意

  • 没有独立复现 Mercury 基准、语音客户切换效果或研究中的加速倍数。
  • 自动转写将 autoregressive、diffusion、evals 等词多次误识,已按完整上下文与官方标题校正,不据此生成逐字引语。
  • 访谈没有给出完整模型卡、训练规模、任务样本或服务定价,不能据此计算通用成本优势。
  • 四处独立 ASR 抽核覆盖开头、生产服务能力、接口兼容和结尾,不声称人工耳听全片。
  • 英语观点为非逐字忠实改写,中文为同句直接翻译;难词均取自对应句。
LANGUAGE & CONCEPTS

金句与关键词

本期采用完整音频转写,不把机器识别的句子冒充已核对的官方逐字金句。推荐回听 07:04 的并行性解释与 30:12 的工程代价;上方英文均为明确标注的非逐字忠实改写。

BACK TO THE SOURCE

回到原始内容

本期根据完整节目整理,英文观点句为非逐字忠实转述,中文按对应句子直译。来源方法与未确认事项见上文。了解编辑说明

处理方式:官方 YouTube 无可导出字幕;使用官方 RSS 完整音频,MLX Whisper large-v3 四个独立片段,641 段全部阅读至 38:12 片尾。medium 独立抽核四处各 30 秒。专有词按官方单集标题及完整语境校正,不从机器误识制造引语。

官方 RSS 与单集发布时间 ↗

报告生成时间:2026/9/21 10:34:14(北京时间)

收录于 2026-09-21