← 2026-08-10 期
42章经00:59:29 节目 · 10 分钟阅读

从蒸馏、合成数据到 RSI:模型竞争下一焦点

从蒸馏到合成数据到 RSI,模型竞争的下一个焦点是什么?|对谈 Evolvent AI 联创孟繁青

曲凯;孟繁青(Evolvent AI 联合创始人)

节目日期 2026-08-08来源标注:完整音频转写
THE BRIEF

三句话速览

  1. 01

    孟繁青认为模型竞争重新回到数据:后训练门槛下降后,真正拉开差距的是数据生成、筛选、评测和基础设施的联合能力。

  2. 02

    一个反常识判断是,国内模型更独特的优势可能不在偏工程的后训练,而在资源限制倒逼出的预训练架构创新。

  3. 03

    蒸馏只是加速手段而非决定性基础;更长期的机会是 RSI,把模型、算法、数据与基础设施连接成可自我改进的闭环。

核心判断

模型竞争的单位正在从单个算法转向‘算法—数据—基础设施—评测’系统。蒸馏能缩短追赶时间,却不能替代预训练创新与自有反馈;RSI 的商业机会更可能出现在连接模型厂和应用公司的中间层。

THE ARGUMENTS

10 条核心观点

01

后训练创业源于能力外溢

英文观点句 · 历史稿忠实转述

Post-training expertise is becoming entrepreneurial because models, tooling, and data infrastructure make experimentation accessible outside frontier labs.

中文直译

后训练专长正变得更适合创业,因为模型、工具和数据基础设施让前沿实验室之外也能进行实验。

难词注译
  • post-training expertise:模型后训练专长
  • entrepreneurial:具备创业转化可能
  • accessible:更容易被外部团队使用

原文语境

01:15—07:12 讨论从 Kimi 到创业、后训练人员创业机会和门槛下降。

观点解读

能力外溢会创造数据、评测和工具公司,但不代表质量门槛消失。

02

评测正在从静态榜单走向任务闭环

英文观点句 · 历史稿忠实转述

Modern evaluation must measure whether data and training improve real agent behavior rather than merely lift a static benchmark score.

中文直译

现代评测必须衡量数据与训练是否改善真实智能体行为,而不只是抬高静态基准分数。

难词注译
  • real agent behavior:真实任务中的智能体行为
  • static benchmark:固定题集基准
  • merely lift:只是抬高

原文语境

04:37 讨论今天的 benchmark 和 eval 与过去的变化。

观点解读

静态分数易被优化;真实任务更能暴露泛化和工具使用问题。

03

数据质量差距来自全链条

英文观点句 · 历史稿忠实转述

Synthetic-data quality depends on task design, generation, filtering, verification, and training feedback as one integrated pipeline.

中文直译

合成数据质量取决于任务设计、生成、筛选、验证与训练反馈这一整条集成管线。

难词注译
  • filtering:筛除低质量样本
  • verification:验证正确性与难度
  • integrated pipeline:一体化流程

原文语境

10:35 解释同样做数据为何质量差距很大。

观点解读

数据不是文件数量;价值来自是否能稳定改变模型行为。

04

国内优势可能在预训练架构

英文观点句 · 历史稿忠实转述

Resource constraints may have pushed Chinese model teams toward distinctive pre-training architecture innovations rather than advantages only in post-training engineering.

中文直译

资源约束可能迫使中国模型团队形成独特的预训练架构创新,而不只是拥有后训练工程优势。

难词注译
  • resource constraints:算力与资本资源限制
  • distinctive:具有自身特点的
  • pre-training architecture:预训练阶段的模型架构

原文语境

12:48 起嘉宾提出与常见印象不同的判断。

观点解读

受限资源能促成效率创新,但仍需用模型和训练结果验证。

05

竞争终局是系统效率

英文观点句 · 历史稿忠实转述

Domestic model competition will increasingly be decided by how efficiently teams combine architecture, data, compute, and product feedback.

中文直译

国内模型竞争将越来越由团队如何高效组合架构、数据、算力与产品反馈来决定。

难词注译
  • be decided by:最终由……决定
  • product feedback:真实产品反馈
  • system efficiency:系统整体效率

原文语境

17:09 讨论国模格局与最后要拼什么。

观点解读

单次发布领先很短,持续迭代系统才形成复利。

06

RSI 是研究流程自我改进

英文观点句 · 历史稿忠实转述

Recursive self-improvement means building loops in which AI helps generate hypotheses, data, experiments, and updates that improve the next iteration.

中文直译

递归自我改进意味着建立这样的闭环:AI 帮助生成假设、数据、实验与更新,从而改善下一轮迭代。

难词注译
  • recursive self-improvement:递归自我改进
  • hypotheses:待验证假设
  • next iteration:下一轮迭代

原文语境

21:50 区分 RSI、Self-Evolving、AI for AI 与 Auto-Research。

观点解读

RSI 不是模型凭空变强,而是把多个可验证环节连接起来。

07

RSI 的瓶颈仍是可靠反馈

英文观点句 · 历史稿忠实转述

A self-improving loop works only when it can generate trustworthy evidence about which changes actually improved the model.

中文直译

只有当自我改进闭环能生成可信证据,说明哪些变化真正改善了模型时,它才有效。

难词注译
  • trustworthy evidence:可信证据
  • actually improved:真正带来改善
  • reward hacking:钻奖励函数漏洞

原文语境

30:39 讨论做好 RSI 本质要解决的问题。

观点解读

没有可靠评测,系统会放大噪声和奖励黑客。

08

模型厂外采数据是为了速度与专业化

英文观点句 · 历史稿忠实转述

Frontier labs buy external data because specialized suppliers can explore niches, iterate faster, and absorb operational complexity.

中文直译

前沿模型厂外购数据,是因为专业供应商能探索细分领域、更快迭代并承担运营复杂度。

难词注译
  • specialized suppliers:专业供应商
  • explore niches:探索细分任务
  • operational complexity:运营复杂度

原文语境

39:07 回答模型厂能造数据为何还要外采。

观点解读

外采不是能力不足,而是分工与机会成本选择。

09

算法、数据与基础设施正在融合

英文观点句 · 历史稿忠实转述

In frontier model development, algorithms create data, data defines infrastructure needs, and infrastructure shapes which algorithms are practical.

中文直译

在前沿模型开发中,算法生成数据,数据定义基础设施需求,而基础设施决定哪些算法可行。

难词注译
  • defines infrastructure needs:决定基础设施需求
  • shapes which algorithms:影响哪些算法能落地
  • practical:在成本与规模上可行

原文语境

43:00 讨论“算法就是数据,数据就是 Infra,Infra 就是算法”。

观点解读

组织边界若仍按三部门割裂,会损失迭代速度。

10

蒸馏是加速器而非根基

英文观点句 · 历史稿忠实转述

Distillation can accelerate capability transfer, but durable competitiveness still requires original pre-training, data, and evaluation innovation.

中文直译

蒸馏可以加速能力迁移,但持久竞争力仍需要原创的预训练、数据与评测创新。

难词注译
  • distillation:从强模型输出中迁移能力的蒸馏
  • durable competitiveness:持久竞争力
  • capability transfer:能力迁移

原文语境

46:11 与 53:58 分两次讨论合成数据、蒸馏技法及其对国内追赶意义。

观点解读

若外部通道关闭,只依赖蒸馏的团队会失去迭代源头。

A CLOSER LOOK

深度分析

数据的产品化升级

合成数据公司不能只按条数售卖,而要证明数据改变模型行为。

这要求评测、训练和反馈成为交付的一部分。

RSI 的现实路径

完全自主改进仍遥远,但局部闭环已可落地。

从代码、数学、数据生成等可验证领域开始,更容易形成复利。

蒸馏之外的护城河

蒸馏压缩追赶时间,却依赖外部教师和可访问通道。

原创架构、数据与评测能力才决定通道关闭后的韧性。

LISTEN AGAIN

值得回听的时间点

01:15

从 Kimi 到创业

观察后训练能力外溢。

04:37

Bench 与 Eval 变化

从静态分数转向真实任务。

12:48

国内外模型优势

提出预训练架构的非共识。

21:50

RSI 概念

澄清自我改进闭环。

35:29

数据需求的几轮变化

解释合成数据机会。

43:00

算法、数据与 Infra 融合

展示系统竞争。

53:58

蒸馏的真实意义

区分加速与根基。

56:18

RSIBench-Data

Evolvent AI 的产品方向。

人物、工具与数字

孟繁青Evolvent AIKimiRSISelf-Evolvingsynthetic datadistillationRSIBench-Data
PERSPECTIVES

立场与分歧

共同立场

  • 数据再次成为模型竞争核心。
  • 蒸馏不能替代原创能力。

主要分歧

  • 常见观点认为国内优势在后训练工程;嘉宾认为更独特的是资源约束下的预训练架构。
  • 外界把 RSI 想成基模创业;嘉宾更看好模型厂与应用公司的中间层。
INTO PRACTICE

工作启发与行动

  • 数据公司从卖数据集转向卖闭环能力。
  • 评测与数据基础设施进一步融合。
  • 预训练效率创新仍是国内模型机会。

可以从这里开始

  1. 把每个数据项目绑定到明确模型行为指标。
  2. 建立生成—筛选—训练—评测闭环而非只交付文件。
  3. 区分蒸馏带来的短期增益和自有能力。
  4. 为 RSI 项目先选择可验证任务。
  5. 研究模型厂与应用公司之间的数据反馈接口。
EVIDENCE & LIMITS

事实、观点与不确定项

以下沿用历史报告的标注与判断,归档迁移未对节目事实重新核验。

历史稿标注的事实

  • RSS 显示本集发布于 2026-08-08 21:30(上海时间)。
  • 孟繁青曾参与 Kimi Agent、RL Infra 和模型发布。

观点与判断

  • 嘉宾认为国内模型特色更多来自预训练架构创新。
  • 嘉宾认为蒸馏只是加速手段。

仍需留意

  • 有关国内外模型优势是嘉宾判断,不是统一行业结论。
  • 自动转写中的中英文专有名词已结合官方 show notes 校正。
LANGUAGE & CONCEPTS

金句与关键词

算法就是数据,数据就是 Infra,Infra 就是算法。

这句中文金句概括模型开发三要素的融合:任何一项变化都会重塑另外两项。

BACK TO THE SOURCE

回到原始内容

保留历史报告的观点与证据边界。英文观点句沿用原稿标注,转述句不作为逐字引用。了解编辑说明

收录于 2026-08-10