← 2026-09-22 期
Latent Space02:20:53 节目 · 18 分钟阅读

Jev 的另一条路线:让 AI 成为可组合的软件组件,而不只是聊天助手

Jev: System One models for Prod, not God — with Diogo Almeida, CEO, TypeSafe AI

主持 Swyx(Shawn Wang);嘉宾 Diogo Almeida,TypeSafe AI CEO、InstructGPT 共同作者

节目日期(北京时间) 2026-09-22来源标注:官方完整逐字稿
THE BRIEF

三句话速览

  1. 01

    Diogo Almeida 的核心主张是:如果未来大部分模型调用来自代码,模型接口与训练目标就不该始终围绕讨好聊天用户设计。

  2. 02

    Jev 尝试把语义判断封装成带概率、可组合的基础组件,让开发者以明确状态、阈值和程序控制流连接智能。

  3. 03

    这不是一场已经证明胜负的模型竞赛,而是一份关于任务选择、可靠性、成本和代理架构的强烈产品主张,仍有能力、地区部署与验证边界。

核心判断

本期最值得带走的不是‘用 Jev 替换所有模型’,而是重新划分模型和代码的职责:让模型处理难以用规则穷举的语义判断,让程序负责状态、权限、异常和可重复的执行路径。Diogo 对聊天式训练、公开排行榜和单模型代理的批评有启发性,但他既是研究者也是产品提供者;必须把其愿景、公司自报、演示和已验证能力分开。真正的采用依据,应是自己任务上的质量、延迟、成本与出错后果。

THE ARGUMENTS

10 条核心观点

01

先问谁消费智能,再决定接口长什么样

英文观点句 · 基于完整节目忠实转述

When software is the primary consumer of intelligence, predictable decisions and composable interfaces can matter more than a convincing conversational persona.

中文直译

当软件是智能的主要使用者时,可预测的决策和可组合的接口,可能比一个令人信服的对话人格更重要。

难词注译
  • primary consumer:主要使用者;此处指调用模型的代码
  • composable interfaces:可组合的接口;能被其他程序组件稳定连接
  • conversational persona:对话人格;面向人的交流形象与风格

原文语境

开场把 Jev 定位为面向生产的软件基础设施;01:56—02:00,Diogo 回顾 InstructGPT 的文案用途,解释自己为何反向思考:若 AI 驱动经济变化,调用者究竟是人还是代码?02:16 又以函数调用为例,批评开发者只能在提示词里请求模型多用某个工具,却缺少明确的概率和控制接口。

观点解读

聊天体验好与适合成为软件依赖是两套验收标准。后者更在乎输出含义是否稳定、何时拒绝、如何重试、怎样升级给人。这里不是否认自然语言界面,而是提醒开发者:展示层可以友好,执行层仍应有清楚的合同和边界。

02

任务定义,比围绕同一个榜单继续优化更根本

英文观点句 · 基于完整节目忠实转述

A useful training objective should reflect the task that customers need solved rather than merely improve performance on a familiar public leaderboard.

中文直译

一个有用的训练目标应反映客户需要解决的任务,而不只是提高模型在熟悉的公开排行榜上的表现。

难词注译
  • training objective:训练目标;优化过程追求的行为或结果
  • reflect:反映、体现
  • public leaderboard:公开排行榜

原文语境

前半段反复讨论 North Star task:从指令跟随转向机器可用的决策,需要改变优化对象。17 分钟附近的反榜单表态并不是反对测量;他仍认可内部评估与客户任务测试,并说明团队依靠数据工作塑造能力。01:42—01:47 对前沿放缓的批评同样指向‘是否只有一种研究路线’这个前提。

观点解读

一个模型赢得公开题库,不意味着它能在你的权限模型、资料格式和错误成本下可靠运行。本报告的延伸建议是先写真实成功标准,再选评估集与模型;但任务设计、数据与算力并非互相替代,不能把访谈中的强烈修辞当成普适研究定律。

03

可靠性不只是同一输入每次吐出同一答案

英文观点句 · 基于完整节目忠实转述

Robustness requires similar inputs to produce suitably consistent behavior, while determinism only concerns repeated execution on exactly the same input.

中文直译

鲁棒性要求相似输入产生适当一致的行为,而确定性只涉及对完全相同输入的重复执行。

难词注译
  • Robustness:鲁棒性;面对非关键变化仍保持适当行为
  • determinism:确定性;同样条件下重复结果一致
  • suitably consistent:适当一致的;不是无视重要差别地一律相同

原文语境

中段可靠性讨论区分两者:在输入里加入无关 UUID,理想情况下不应改变实质判断;可同一输入完全确定,也不能保证轻微改写后结果合理。48:11 附近谈模型版本不被暗中更改,但随后明确维护成本和版本节奏,未承诺无限期支持每个版本。

观点解读

测试应包含重复调用,也包含无关扰动、同义改写和真正改变条件的对照。版本冻结有利于回归,却不能自动赋予模型正确性;保留版本号、样本和预期行为,才知道更新到底改善了什么、破坏了什么。

04

带概率的语义原语,让业务控制留在代码里

英文观点句 · 基于完整节目忠实转述

Typed semantic primitives can expose uncertainty to application code, allowing developers to set thresholds and control flow instead of relying on persuasive prompts.

中文直译

带类型的语义原语可以把不确定性暴露给应用代码,让开发者设定阈值和控制流,而不是依赖有说服力的提示词。

难词注译
  • semantic primitives:语义原语;可组合的基础判断操作
  • uncertainty:不确定性
  • thresholds:阈值;触发不同处理路径的界限

原文语境

54:04 起介绍 Choice、Score 和 Noulli:分别对应选择、评分以及类似布尔判断的概率操作;58:58 以后以结构化状态、指令和标准讨论如何组合。02:16 的函数调用例子进一步说明,拒绝或允许的门槛应能按实际应用调整,而不只靠措辞。

观点解读

概率让系统有机会表达‘不知道’,但一个小数并不天然经过良好校准。要用标注样本比较置信度与实际正确率,定义中间区间的人工升级方式。应用仍须独立执行权限和安全限制,不能把模型分数当成授权。

05

把大提示词拆成小问题,要同时核算整体收益

英文观点句 · 基于完整节目忠实转述

Decomposing a large prompt into small semantic decisions can improve inspectability, provided that the combined latency, cost, and error rate remain acceptable.

中文直译

把一个大提示词分解成小的语义决策,可以提高可检查性,前提是合计的延迟、成本和错误率仍然可以接受。

难词注译
  • Decomposing:分解;将大任务拆成可理解的小步骤
  • inspectability:可检查性;能定位中间判断与失败原因
  • combined latency:合计延迟;整个流程而非单次调用的耗时

原文语境

58:58—01:07 的设计方式是显式保存状态、一次问清楚一个语义问题,让代码决定下一步。Swyx 提出反问:过去把一个问题拆成几十上百个调用会太贵、太慢。嘉宾认为更便宜的判断改变了设计空间,同时建议对不同拒绝原因分别提问、添加回归案例;01:06:56 的含混 VIP 语气例子则保留人工处理。

观点解读

拆解不等于无条件越细越好。每个边界既可能让错误可见,也可能增加状态传递和失败点。先对一个真实流程做整体对照,而不是只展示某个小调用速度快;高后果动作尤其需要明确的人类介入与事务边界。

06

便宜与快,是两种不同的产品约束

英文观点句 · 基于完整节目忠实转述

The best trade-off between intelligence per dollar and intelligence per second depends on whether a workload is asynchronous or latency-sensitive.

中文直译

每美元智能与每秒智能之间的最佳取舍,取决于工作负载是异步的,还是对延迟敏感的。

难词注译
  • trade-off:取舍;不能同时无限优化的目标之间的权衡
  • asynchronous:异步的;不要求用户即时等待结果
  • latency-sensitive:对延迟敏感的

原文语境

访谈中段区分批处理成本与交互速度,01:35—01:38 将暗数据分析、编程代理、实时智能和验证所有调用列为用途。02:18:42 以后又承认部署地区很重要:欧洲用户可能因网络距离无法获得宣传中的同等速度倍数,团队希望扩展基础设施。

观点解读

不能把某地某任务的加速倍数复制到所有产品。离线数据标注可能愿意等待来降低成本,语音或实时交互更在意尾延迟。比较时需要固定任务质量、地区和并发,再看每个合格结果的总成本,而不是只看 token 单价。

07

System 1 是任务边界假说,不是万能免推理标签

英文观点句 · 基于完整节目忠实转述

A fast decision model should expose uncertainty on tasks beyond its reliable range rather than pretend that every problem can be solved without deeper reasoning.

中文直译

一个快速决策模型应在超出其可靠范围的任务上呈现不确定性,而不是假装每个问题都能在没有更深入推理的情况下解决。

难词注译
  • expose uncertainty:呈现不确定性
  • reliable range:可靠范围;经过验证的能力边界
  • deeper reasoning:更深入的推理

原文语境

01:19—01:24,主持人问大家是否会试图用 Jev 做一切,嘉宾称 System 1 与 System 2 的划分是经验问题,不是简单公式。01:53:42 又强调,遇到不擅长的任务可以给低置信度或未知,而不是把这些任务完全排除。01:07 附近的错误案例中,他承认问题需要反馈和模型改进,不能只靠微调请求或调阈值解决。

观点解读

低延迟判断适合某些分类、路由或检查,不意味着长链规划、开放研究与高风险决策都能直接替换。路由到更强模型或人工只是可能的系统方案,本期提到的未来级联不能当成已经上线的保证。

08

AI 藏进现有软件,可能比增加聊天框更有价值

英文观点句 · 基于完整节目忠实转述

Existing software companies may gain from embedded intelligence because they already understand the workflows, data, and decisions that customers value.

中文直译

现有软件公司可能从嵌入式智能中受益,因为它们已经理解客户重视的工作流、数据和决策。

难词注译
  • embedded intelligence:嵌入式智能;融入现有流程的智能能力
  • workflows:工作流
  • may gain:可能受益;表示可能性而非确定结果

原文语境

01:18:28 起,Diogo 希望 AI 退到背景,不再始终是产品主角;他认为既有 SaaS 厂商知道哪些决定值得自动化,因此可能被增强,而非必然被替代。01:35 的暗数据例子是企业已积累大量资料,但过去逐条分析太贵;这与新增一个通用聊天入口的价值路径不同。

观点解读

这是与‘AI 必然消灭软件’相反的一种产业判断,不是保证旧厂商一定胜出。真正机会取决于资料权利、流程理解、体验和可靠性。对个人创作者也一样:让已有整理、检索和反馈流程更顺畅,比盲目再做一个聊天界面更值得先验证。

09

多模型代理的关键,可能是状态管理而不只是路由

英文观点句 · 基于完整节目忠实转述

Multi-model agents become more practical when state is explicit and selectively shared, rather than repeatedly passing an entire growing conversation to every subtask.

中文直译

当状态被明确表示并有选择地共享,而不是反复把整段不断增长的对话传给每个子任务时,多模型代理会变得更切实可行。

难词注译
  • explicit:明确表示的;不是隐含在漫长聊天记录里
  • selectively shared:有选择地共享
  • subtask:子任务

原文语境

01:38—01:40 讨论开放编程代理探索异构模型;02:09—02:14 将 KV cache 与追加式长上下文联系起来,设想带标签的子任务树、按需检索历史、只读观察者和并行代理协调。嘉宾明确说这些是值得探索的设计模式,没有保证能工作;主持人提到 PrimeAgent 和 RLM 相关探索。

观点解读

可缓存并不意味着状态设计合理,加入第二个模型也不自动改善系统。先建立共享对象、读写边界、依赖和冲突处理,再测试路由收益。不能让概率模型替代底层并发安全机制;对锁和协调的兴奋设想,应转成受控实验而非生产承诺。

10

研究路线要用真实任务证明,演示热度还不是产品稳定性

英文观点句 · 基于完整节目忠实转述

A promising demonstration or a surge in token usage can justify further testing, but neither establishes durable customer value or production reliability on its own.

中文直译

一个有前景的演示或 token 使用量的激增,可以成为进一步测试的理由,但两者都不能单独确立持久的客户价值或生产可靠性。

难词注译
  • surge:激增
  • durable customer value:持久的客户价值
  • on its own:单独依靠自身

原文语境

01:28—01:33 回顾早期客户不理解产品、上线后开发者涌入的反差;前半提到日调用量超过万亿 token,属于公司自报。01:34 看完电脑操作演示后,Diogo 仍要求找弱点和验证可靠性。02:02 给研究者的建议不是只凭履历成立实验室,而是明确要解决什么真实问题;02:20 的‘智能基础设施’是长期方向。

观点解读

高调用量可能来自机器循环,不等于相同比例的付费收入或有价值结果。演示能激发想象,生产验证还要观察失败、用户留存、维护和成本。保留嘉宾对数据与工程劳动的强调,才不会把数年的工作误读成一个巧妙提示词就能完成。

A CLOSER LOOK

深度分析

从模型能力,到一个能负责的决策组件

聊天模型通常以回答质量呈现价值,软件组件却必须嵌进别人依赖它的流程。一个回答哪怕看上去聪明,只要输出类型、拒绝条件或概率含义不可预测,就可能把不确定性沿调用链扩散。本期的机器原生路线,试图把这层不确定性变成可见接口。

但接口清楚只是必要条件。应用仍须知道哪些决定允许机器做、失败如何恢复、对外动作由谁授权。将模型从‘万能执行者’改成‘受约束的判断组件’,才是可落地的工程启发;不能把嘉宾对基础模型拒绝机制的批评误读成鼓励应用取消安全。

经济性变化,会改变软件拆解方式

如果每个语义判断昂贵而缓慢,开发者倾向把多个任务塞进一次大调用。判断变便宜后,可以重新考虑验证、分类和局部状态决策,让错误更容易定位。过去未被分析的暗数据,也可能因为单位成本下降而值得处理。

这不意味着无限增加调用次数。串行依赖会积累延迟,多个不完美判断也会叠加错误。真实收益要从任务整体度量:每个合格结果的成本、失败后的人工分钟数、响应尾延迟和维护成本,而非把单次调用的漂亮数字当作项目 ROI。

缓存优化与软件结构,可能存在张力

长对话追加有助于复用缓存,却也容易把所有状态混在一条历史里。当任务分叉、模型切换或需要多人协同时,哪些信息相关、谁能读写、怎样复用结果,就变成架构问题。这解释了为何节目最后四十分钟并非离题,而是在追问机器原生智能的上层系统。

嘉宾提出的子任务树、按需历史检索和只读观察者,是研究方向,不是成熟框架。一个稳妥实验可以先把任务产物与聊天历史分离,定义有版本的状态对象,再测局部检索是否足够。即使廉价模型能辅助协调,也不能替代事务、锁和权限检查。

有锋芒的产品叙事,也需要被自己的标准检验

Diogo 强调自己不喜欢只凭研究履历和算力规模定义价值,却同样需要证明新路线能持续解决问题。早期客户困惑、发布后的开发者兴奋、电脑操作演示和高 token 量,分别证明了不同的东西,没有任何单项自动证明持久商业价值。

这也是本期适合研究与产品团队共读的原因:研究目标需要贴近任务,产品热度需要接受可靠性检验,工程方案需要考虑成本和全球基础设施。最终应把‘是不是最强模型’换成‘在这个明确边界内,是否持续交付可验证结果’。

LISTEN AGAIN

值得回听的时间点

00:00

机器原生智能的产品定位

为什么面向代码的模型与聊天产品需要不同目标。

17:21

公开评测与客户任务

区分对榜单的批评和反对评估;条款说法仅是访谈时讨论。

48:11

版本稳定性与支持成本

不暗改某版本,不等于无限期维护所有版本。

54:04

Choice、Score、Noulli

三种基础语义操作如何对应程序控制。

58:58

状态、标准与小问题

把不透明提示词拆成可检查的判断。

01:06:28

高后果用途与升级

嘉宾并不建议直接让系统承担自动交易;含混任务需要人。

01:07:00

错误、反馈与未来级联

不能靠一个阈值修复所有能力问题。

01:18:28

让 AI 退到产品背景

既有 SaaS 的流程知识可能成为优势。

01:19:37

System 1 与 System 2

能力分界是经验问题,需要实际任务验证。

01:28:00

开发者反馈与产品发现

发布热度与持久产品价值分开看。

01:33:21

电脑操作演示

嘉宾欣赏演示,但强调找弱点与生产可靠性。

01:35:05

暗数据、实时智能与验证

低成本判断可能开启原先不经济的用途。

01:38:47

多模型编程代理

开放生态与单模型架构的机会和不确定性。

01:41:00

前沿放缓与替代研究路线

这里是立场争论,不是风险已被排除的证据。

01:47:40

中期训练、预训练与组合

研究方法服务于问题,不必为了完整重训而重训。

01:56:14

从 InstructGPT 到 TypeSafe

产品经验如何改变研究目标。

02:02:03

给研究创业者的建议

真正任务与研究履历之间的区别。

02:09:25

KV cache、记忆与子任务树

代理架构后半段的重要技术设想,不能漏读。

02:16:07

可控函数调用

把概率接口与开发者控制权联系起来。

02:18:42

地区部署与长期方向

网络距离限制加速效果,全球基础设施仍在建设。

人物、工具与数字

Diogo Almeida / TypeSafe AI:受访者兼产品提供方,其竞争评价与路线判断带有明确立场。Swyx:持续追问拆分调用成本、System 1 边界,以及嘉宾自己的路线是否也是一种智能切分。Jev:本期讨论的机器原生决策模型;不是被本报告独立测评过的通用替代品。Choice、Score、Noulli:选择、评分及概率判断原语;Noulli 的名称与 Bernoulli 有关。RLHF、RLVR、RLCD:访谈中的训练路线讨论;RLCD 的完整方法未在节目中公开,不能据名称重建算法。超过万亿 token/日:公司在访谈中的使用量自报,不等于收入、客户数或独立验证。模型版本与 LTS:嘉宾谈稳定部署版本和可能的长期支持,但没有承诺永久维持每个版本。Claude Code、Codex、开放编程代理:用于讨论多模型架构的例子,不据嘉宾概括认定当前产品完全不支持其他模型。KV cache、PrimeAgent、RLM:与状态复用、上下文管理和研究探索相关。欧洲三倍与理想百倍:嘉宾用于说明网络距离影响的口语对比,非跨产品标准化测试。
PERSPECTIVES

立场与分歧

共同立场

  • 双方都认同可靠、低成本智能会打开更多软件用途。
  • 两人都对编程代理与可组合工作流有兴趣,同时承认存在能力边界。
  • 演示之外需要持续测量和用户反馈。

主要分歧

  • Diogo 对聊天优先训练和公开排行榜批评强烈;Swyx 用成本、能力与安全反问推动其澄清。
  • 嘉宾强调减少智能切分;主持人指出 System 1 与 System 2 的分工也可能是一种切分,嘉宾以低置信度和未知回应。
  • 关于前沿放缓,嘉宾更关注研究路线选择;主持人补充政治时机和治理背景,双方并未形成统一政策结论。
  • 对单模型编程代理的局限,嘉宾更激进,主持人认为现有工具与 Jev 仍可探索合作。
INTO PRACTICE

工作启发与行动

  • 工作流设计应先明确可测量的决定,而不是先写一段万能提示词。
  • 创作工具的价值可以藏在检索、分类、校对和发布回执中,不必每一步都展示聊天人格。
  • 把模型版本、样本、阈值、人工升级和失败日志作为同一产品系统维护。
  • 廉价判断可能值得用于验证其他模型,但验证器自身也需要评估。
  • 不要用生产接口的可预测性诉求,推导出可以移除安全、权限或合法性检查。

可以从这里开始

  1. 从现有流程选一个低风险语义决定,整理 30—50 个带预期结果和边界情况的样本。
  2. 分别测试原句、同义改写、无关 UUID 和真正改变条件的输入,记录鲁棒性与确定性差别。
  3. 比较一个大提示词与几个小判断的端到端合格率、尾延迟、人工返工和总费用。
  4. 给不确定区间设置明确升级路径;提交、外发等动作继续由程序权限和必要人工确认控制。
  5. 保存生产模型版本和回归集,在升级前比较行为差异,不仅比较速度。
  6. 如果尝试多模型代理,先定义子任务状态格式、读写权限和并发冲突处理,再做模型路由。
  7. 把演示、实际使用量、付费留存与可靠性分列,不用一种指标代替另一种。
EVIDENCE & LIMITS

事实、观点与不确定项

本期基于完整节目内容整理。节目中的二手引用、嘉宾自述和编辑推断分别标注,不将其等同于独立事实调查。

已核对的来源与节目内容

  • 官方 RSS 发布于 2026-09-21 22:13:49 UTC,即北京时间 9 月 22 日 06:13:49,属于本期窗口。
  • 官方页面完整逐字稿约 189,420 字符,覆盖访谈至 02:20:51 告别;完整 RSS 音频约 02:20:53。
  • 本报告完整读取官方稿,并以独立 medium ASR 对完整音频的开头、两处中段和结尾抽核。
  • 英语观点是忠实于来源的非逐字改写,不冒充受访者逐字原话。

观点与判断

  • 机器原生决策比聊天式接口更能创造未来价值,是嘉宾的研究与产品判断。
  • 既有 SaaS 会被增强、多模型代理会重塑竞争,以及智能基础设施愿景,都是未来推测。
  • 对其他实验室、训练路线和公开榜单的评价不是客观评级或独立技术共识。
  • 本报告的回归样本、权限分层与指标建议属于编辑实践延伸。

仍需留意

  • RLCD 细节、公司使用量和产品性能没有在本报告中独立复现;不会因嘉宾履历把自述升级为证实。
  • 视觉、长上下文、多规格模型、级联和全球部署等讨论包含未来方向,不能当成全部已经可用。
  • 访谈涉及基准测试条款的记忆与法律核对尚不确定,本报告不提供条款结论。
  • 官方逐字稿仍有口语重复与专有词噪声;争议句和缺少外部佐证的公司内部传闻不作为核心事实。
  • 独立音频抽核是 ASR 比对,不是人工耳听全片;时间点供回听定位,边界可能有数秒偏差。
  • 关于不造成大规模失业或前沿风险很小等判断,来源没有给出足以确证的证据。
LANGUAGE & CONCEPTS

金句与关键词

I want to make sure that it works reliably.

‘我想确保它能够可靠地工作。’这句短引文已按官方逐字稿核对,位于 01:34:17 起的发言:嘉宾看完电脑操作演示后,仍坚持验证可靠性。reliably 指稳定可信地工作,而非偶尔成功。上方十条完整英文观点另为非逐字忠实改写,与此处逐字短引文明确区分。

BACK TO THE SOURCE

回到原始内容

本期根据完整节目整理,英文观点句为非逐字忠实转述,中文按对应句子直译。来源方法与未确认事项见上文。了解编辑说明

处理方式:完整阅读 Latent Space 节目官方页面逐字稿约 189,420 字符,从开场到 02:20:51 告别。下载完整官方 RSS 音频,经 ffprobe 检查约 8,452.54 秒,另用本地 MLX Whisper medium 独立抽核四处各 30 秒。正式稿、完整英文观点、同句中文直译与难词均由本次 AI 流程逐项编辑审阅;不将抽核称作人工耳听全片。

官方 RSS 与单集发布时间 ↗

报告生成时间:2026/9/22 10:31:42(北京时间)

收录于 2026-09-22