三句话速览
- 01
Diogo Almeida 的核心主张是:如果未来大部分模型调用来自代码,模型接口与训练目标就不该始终围绕讨好聊天用户设计。
- 02
Jev 尝试把语义判断封装成带概率、可组合的基础组件,让开发者以明确状态、阈值和程序控制流连接智能。
- 03
这不是一场已经证明胜负的模型竞赛,而是一份关于任务选择、可靠性、成本和代理架构的强烈产品主张,仍有能力、地区部署与验证边界。
本期最值得带走的不是‘用 Jev 替换所有模型’,而是重新划分模型和代码的职责:让模型处理难以用规则穷举的语义判断,让程序负责状态、权限、异常和可重复的执行路径。Diogo 对聊天式训练、公开排行榜和单模型代理的批评有启发性,但他既是研究者也是产品提供者;必须把其愿景、公司自报、演示和已验证能力分开。真正的采用依据,应是自己任务上的质量、延迟、成本与出错后果。
10 条核心观点
01先问谁消费智能,再决定接口长什么样
When software is the primary consumer of intelligence, predictable decisions and composable interfaces can matter more than a convincing conversational persona.
当软件是智能的主要使用者时,可预测的决策和可组合的接口,可能比一个令人信服的对话人格更重要。
- primary consumer:主要使用者;此处指调用模型的代码
- composable interfaces:可组合的接口;能被其他程序组件稳定连接
- conversational persona:对话人格;面向人的交流形象与风格
原文语境
开场把 Jev 定位为面向生产的软件基础设施;01:56—02:00,Diogo 回顾 InstructGPT 的文案用途,解释自己为何反向思考:若 AI 驱动经济变化,调用者究竟是人还是代码?02:16 又以函数调用为例,批评开发者只能在提示词里请求模型多用某个工具,却缺少明确的概率和控制接口。
观点解读
聊天体验好与适合成为软件依赖是两套验收标准。后者更在乎输出含义是否稳定、何时拒绝、如何重试、怎样升级给人。这里不是否认自然语言界面,而是提醒开发者:展示层可以友好,执行层仍应有清楚的合同和边界。
02任务定义,比围绕同一个榜单继续优化更根本
A useful training objective should reflect the task that customers need solved rather than merely improve performance on a familiar public leaderboard.
一个有用的训练目标应反映客户需要解决的任务,而不只是提高模型在熟悉的公开排行榜上的表现。
- training objective:训练目标;优化过程追求的行为或结果
- reflect:反映、体现
- public leaderboard:公开排行榜
原文语境
前半段反复讨论 North Star task:从指令跟随转向机器可用的决策,需要改变优化对象。17 分钟附近的反榜单表态并不是反对测量;他仍认可内部评估与客户任务测试,并说明团队依靠数据工作塑造能力。01:42—01:47 对前沿放缓的批评同样指向‘是否只有一种研究路线’这个前提。
观点解读
一个模型赢得公开题库,不意味着它能在你的权限模型、资料格式和错误成本下可靠运行。本报告的延伸建议是先写真实成功标准,再选评估集与模型;但任务设计、数据与算力并非互相替代,不能把访谈中的强烈修辞当成普适研究定律。
03可靠性不只是同一输入每次吐出同一答案
Robustness requires similar inputs to produce suitably consistent behavior, while determinism only concerns repeated execution on exactly the same input.
鲁棒性要求相似输入产生适当一致的行为,而确定性只涉及对完全相同输入的重复执行。
- Robustness:鲁棒性;面对非关键变化仍保持适当行为
- determinism:确定性;同样条件下重复结果一致
- suitably consistent:适当一致的;不是无视重要差别地一律相同
原文语境
中段可靠性讨论区分两者:在输入里加入无关 UUID,理想情况下不应改变实质判断;可同一输入完全确定,也不能保证轻微改写后结果合理。48:11 附近谈模型版本不被暗中更改,但随后明确维护成本和版本节奏,未承诺无限期支持每个版本。
观点解读
测试应包含重复调用,也包含无关扰动、同义改写和真正改变条件的对照。版本冻结有利于回归,却不能自动赋予模型正确性;保留版本号、样本和预期行为,才知道更新到底改善了什么、破坏了什么。
04带概率的语义原语,让业务控制留在代码里
Typed semantic primitives can expose uncertainty to application code, allowing developers to set thresholds and control flow instead of relying on persuasive prompts.
带类型的语义原语可以把不确定性暴露给应用代码,让开发者设定阈值和控制流,而不是依赖有说服力的提示词。
- semantic primitives:语义原语;可组合的基础判断操作
- uncertainty:不确定性
- thresholds:阈值;触发不同处理路径的界限
原文语境
54:04 起介绍 Choice、Score 和 Noulli:分别对应选择、评分以及类似布尔判断的概率操作;58:58 以后以结构化状态、指令和标准讨论如何组合。02:16 的函数调用例子进一步说明,拒绝或允许的门槛应能按实际应用调整,而不只靠措辞。
观点解读
概率让系统有机会表达‘不知道’,但一个小数并不天然经过良好校准。要用标注样本比较置信度与实际正确率,定义中间区间的人工升级方式。应用仍须独立执行权限和安全限制,不能把模型分数当成授权。
05把大提示词拆成小问题,要同时核算整体收益
Decomposing a large prompt into small semantic decisions can improve inspectability, provided that the combined latency, cost, and error rate remain acceptable.
把一个大提示词分解成小的语义决策,可以提高可检查性,前提是合计的延迟、成本和错误率仍然可以接受。
- Decomposing:分解;将大任务拆成可理解的小步骤
- inspectability:可检查性;能定位中间判断与失败原因
- combined latency:合计延迟;整个流程而非单次调用的耗时
原文语境
58:58—01:07 的设计方式是显式保存状态、一次问清楚一个语义问题,让代码决定下一步。Swyx 提出反问:过去把一个问题拆成几十上百个调用会太贵、太慢。嘉宾认为更便宜的判断改变了设计空间,同时建议对不同拒绝原因分别提问、添加回归案例;01:06:56 的含混 VIP 语气例子则保留人工处理。
观点解读
拆解不等于无条件越细越好。每个边界既可能让错误可见,也可能增加状态传递和失败点。先对一个真实流程做整体对照,而不是只展示某个小调用速度快;高后果动作尤其需要明确的人类介入与事务边界。
06便宜与快,是两种不同的产品约束
The best trade-off between intelligence per dollar and intelligence per second depends on whether a workload is asynchronous or latency-sensitive.
每美元智能与每秒智能之间的最佳取舍,取决于工作负载是异步的,还是对延迟敏感的。
- trade-off:取舍;不能同时无限优化的目标之间的权衡
- asynchronous:异步的;不要求用户即时等待结果
- latency-sensitive:对延迟敏感的
原文语境
访谈中段区分批处理成本与交互速度,01:35—01:38 将暗数据分析、编程代理、实时智能和验证所有调用列为用途。02:18:42 以后又承认部署地区很重要:欧洲用户可能因网络距离无法获得宣传中的同等速度倍数,团队希望扩展基础设施。
观点解读
不能把某地某任务的加速倍数复制到所有产品。离线数据标注可能愿意等待来降低成本,语音或实时交互更在意尾延迟。比较时需要固定任务质量、地区和并发,再看每个合格结果的总成本,而不是只看 token 单价。
07System 1 是任务边界假说,不是万能免推理标签
A fast decision model should expose uncertainty on tasks beyond its reliable range rather than pretend that every problem can be solved without deeper reasoning.
一个快速决策模型应在超出其可靠范围的任务上呈现不确定性,而不是假装每个问题都能在没有更深入推理的情况下解决。
- expose uncertainty:呈现不确定性
- reliable range:可靠范围;经过验证的能力边界
- deeper reasoning:更深入的推理
原文语境
01:19—01:24,主持人问大家是否会试图用 Jev 做一切,嘉宾称 System 1 与 System 2 的划分是经验问题,不是简单公式。01:53:42 又强调,遇到不擅长的任务可以给低置信度或未知,而不是把这些任务完全排除。01:07 附近的错误案例中,他承认问题需要反馈和模型改进,不能只靠微调请求或调阈值解决。
观点解读
低延迟判断适合某些分类、路由或检查,不意味着长链规划、开放研究与高风险决策都能直接替换。路由到更强模型或人工只是可能的系统方案,本期提到的未来级联不能当成已经上线的保证。
08AI 藏进现有软件,可能比增加聊天框更有价值
Existing software companies may gain from embedded intelligence because they already understand the workflows, data, and decisions that customers value.
现有软件公司可能从嵌入式智能中受益,因为它们已经理解客户重视的工作流、数据和决策。
- embedded intelligence:嵌入式智能;融入现有流程的智能能力
- workflows:工作流
- may gain:可能受益;表示可能性而非确定结果
原文语境
01:18:28 起,Diogo 希望 AI 退到背景,不再始终是产品主角;他认为既有 SaaS 厂商知道哪些决定值得自动化,因此可能被增强,而非必然被替代。01:35 的暗数据例子是企业已积累大量资料,但过去逐条分析太贵;这与新增一个通用聊天入口的价值路径不同。
观点解读
这是与‘AI 必然消灭软件’相反的一种产业判断,不是保证旧厂商一定胜出。真正机会取决于资料权利、流程理解、体验和可靠性。对个人创作者也一样:让已有整理、检索和反馈流程更顺畅,比盲目再做一个聊天界面更值得先验证。
09多模型代理的关键,可能是状态管理而不只是路由
Multi-model agents become more practical when state is explicit and selectively shared, rather than repeatedly passing an entire growing conversation to every subtask.
当状态被明确表示并有选择地共享,而不是反复把整段不断增长的对话传给每个子任务时,多模型代理会变得更切实可行。
- explicit:明确表示的;不是隐含在漫长聊天记录里
- selectively shared:有选择地共享
- subtask:子任务
原文语境
01:38—01:40 讨论开放编程代理探索异构模型;02:09—02:14 将 KV cache 与追加式长上下文联系起来,设想带标签的子任务树、按需检索历史、只读观察者和并行代理协调。嘉宾明确说这些是值得探索的设计模式,没有保证能工作;主持人提到 PrimeAgent 和 RLM 相关探索。
观点解读
可缓存并不意味着状态设计合理,加入第二个模型也不自动改善系统。先建立共享对象、读写边界、依赖和冲突处理,再测试路由收益。不能让概率模型替代底层并发安全机制;对锁和协调的兴奋设想,应转成受控实验而非生产承诺。
10研究路线要用真实任务证明,演示热度还不是产品稳定性
A promising demonstration or a surge in token usage can justify further testing, but neither establishes durable customer value or production reliability on its own.
一个有前景的演示或 token 使用量的激增,可以成为进一步测试的理由,但两者都不能单独确立持久的客户价值或生产可靠性。
- surge:激增
- durable customer value:持久的客户价值
- on its own:单独依靠自身
原文语境
01:28—01:33 回顾早期客户不理解产品、上线后开发者涌入的反差;前半提到日调用量超过万亿 token,属于公司自报。01:34 看完电脑操作演示后,Diogo 仍要求找弱点和验证可靠性。02:02 给研究者的建议不是只凭履历成立实验室,而是明确要解决什么真实问题;02:20 的‘智能基础设施’是长期方向。
观点解读
高调用量可能来自机器循环,不等于相同比例的付费收入或有价值结果。演示能激发想象,生产验证还要观察失败、用户留存、维护和成本。保留嘉宾对数据与工程劳动的强调,才不会把数年的工作误读成一个巧妙提示词就能完成。
深度分析
从模型能力,到一个能负责的决策组件
聊天模型通常以回答质量呈现价值,软件组件却必须嵌进别人依赖它的流程。一个回答哪怕看上去聪明,只要输出类型、拒绝条件或概率含义不可预测,就可能把不确定性沿调用链扩散。本期的机器原生路线,试图把这层不确定性变成可见接口。
但接口清楚只是必要条件。应用仍须知道哪些决定允许机器做、失败如何恢复、对外动作由谁授权。将模型从‘万能执行者’改成‘受约束的判断组件’,才是可落地的工程启发;不能把嘉宾对基础模型拒绝机制的批评误读成鼓励应用取消安全。
经济性变化,会改变软件拆解方式
如果每个语义判断昂贵而缓慢,开发者倾向把多个任务塞进一次大调用。判断变便宜后,可以重新考虑验证、分类和局部状态决策,让错误更容易定位。过去未被分析的暗数据,也可能因为单位成本下降而值得处理。
这不意味着无限增加调用次数。串行依赖会积累延迟,多个不完美判断也会叠加错误。真实收益要从任务整体度量:每个合格结果的成本、失败后的人工分钟数、响应尾延迟和维护成本,而非把单次调用的漂亮数字当作项目 ROI。
缓存优化与软件结构,可能存在张力
长对话追加有助于复用缓存,却也容易把所有状态混在一条历史里。当任务分叉、模型切换或需要多人协同时,哪些信息相关、谁能读写、怎样复用结果,就变成架构问题。这解释了为何节目最后四十分钟并非离题,而是在追问机器原生智能的上层系统。
嘉宾提出的子任务树、按需历史检索和只读观察者,是研究方向,不是成熟框架。一个稳妥实验可以先把任务产物与聊天历史分离,定义有版本的状态对象,再测局部检索是否足够。即使廉价模型能辅助协调,也不能替代事务、锁和权限检查。
有锋芒的产品叙事,也需要被自己的标准检验
Diogo 强调自己不喜欢只凭研究履历和算力规模定义价值,却同样需要证明新路线能持续解决问题。早期客户困惑、发布后的开发者兴奋、电脑操作演示和高 token 量,分别证明了不同的东西,没有任何单项自动证明持久商业价值。
这也是本期适合研究与产品团队共读的原因:研究目标需要贴近任务,产品热度需要接受可靠性检验,工程方案需要考虑成本和全球基础设施。最终应把‘是不是最强模型’换成‘在这个明确边界内,是否持续交付可验证结果’。
值得回听的时间点
机器原生智能的产品定位
为什么面向代码的模型与聊天产品需要不同目标。
公开评测与客户任务
区分对榜单的批评和反对评估;条款说法仅是访谈时讨论。
版本稳定性与支持成本
不暗改某版本,不等于无限期维护所有版本。
Choice、Score、Noulli
三种基础语义操作如何对应程序控制。
状态、标准与小问题
把不透明提示词拆成可检查的判断。
高后果用途与升级
嘉宾并不建议直接让系统承担自动交易;含混任务需要人。
错误、反馈与未来级联
不能靠一个阈值修复所有能力问题。
让 AI 退到产品背景
既有 SaaS 的流程知识可能成为优势。
System 1 与 System 2
能力分界是经验问题,需要实际任务验证。
开发者反馈与产品发现
发布热度与持久产品价值分开看。
电脑操作演示
嘉宾欣赏演示,但强调找弱点与生产可靠性。
暗数据、实时智能与验证
低成本判断可能开启原先不经济的用途。
多模型编程代理
开放生态与单模型架构的机会和不确定性。
前沿放缓与替代研究路线
这里是立场争论,不是风险已被排除的证据。
中期训练、预训练与组合
研究方法服务于问题,不必为了完整重训而重训。
从 InstructGPT 到 TypeSafe
产品经验如何改变研究目标。
给研究创业者的建议
真正任务与研究履历之间的区别。
KV cache、记忆与子任务树
代理架构后半段的重要技术设想,不能漏读。
可控函数调用
把概率接口与开发者控制权联系起来。
地区部署与长期方向
网络距离限制加速效果,全球基础设施仍在建设。
人物、工具与数字
立场与分歧
共同立场
- 双方都认同可靠、低成本智能会打开更多软件用途。
- 两人都对编程代理与可组合工作流有兴趣,同时承认存在能力边界。
- 演示之外需要持续测量和用户反馈。
主要分歧
- Diogo 对聊天优先训练和公开排行榜批评强烈;Swyx 用成本、能力与安全反问推动其澄清。
- 嘉宾强调减少智能切分;主持人指出 System 1 与 System 2 的分工也可能是一种切分,嘉宾以低置信度和未知回应。
- 关于前沿放缓,嘉宾更关注研究路线选择;主持人补充政治时机和治理背景,双方并未形成统一政策结论。
- 对单模型编程代理的局限,嘉宾更激进,主持人认为现有工具与 Jev 仍可探索合作。
工作启发与行动
- 工作流设计应先明确可测量的决定,而不是先写一段万能提示词。
- 创作工具的价值可以藏在检索、分类、校对和发布回执中,不必每一步都展示聊天人格。
- 把模型版本、样本、阈值、人工升级和失败日志作为同一产品系统维护。
- 廉价判断可能值得用于验证其他模型,但验证器自身也需要评估。
- 不要用生产接口的可预测性诉求,推导出可以移除安全、权限或合法性检查。
可以从这里开始
- 从现有流程选一个低风险语义决定,整理 30—50 个带预期结果和边界情况的样本。
- 分别测试原句、同义改写、无关 UUID 和真正改变条件的输入,记录鲁棒性与确定性差别。
- 比较一个大提示词与几个小判断的端到端合格率、尾延迟、人工返工和总费用。
- 给不确定区间设置明确升级路径;提交、外发等动作继续由程序权限和必要人工确认控制。
- 保存生产模型版本和回归集,在升级前比较行为差异,不仅比较速度。
- 如果尝试多模型代理,先定义子任务状态格式、读写权限和并发冲突处理,再做模型路由。
- 把演示、实际使用量、付费留存与可靠性分列,不用一种指标代替另一种。
事实、观点与不确定项
本期基于完整节目内容整理。节目中的二手引用、嘉宾自述和编辑推断分别标注,不将其等同于独立事实调查。
已核对的来源与节目内容
- 官方 RSS 发布于 2026-09-21 22:13:49 UTC,即北京时间 9 月 22 日 06:13:49,属于本期窗口。
- 官方页面完整逐字稿约 189,420 字符,覆盖访谈至 02:20:51 告别;完整 RSS 音频约 02:20:53。
- 本报告完整读取官方稿,并以独立 medium ASR 对完整音频的开头、两处中段和结尾抽核。
- 英语观点是忠实于来源的非逐字改写,不冒充受访者逐字原话。
观点与判断
- 机器原生决策比聊天式接口更能创造未来价值,是嘉宾的研究与产品判断。
- 既有 SaaS 会被增强、多模型代理会重塑竞争,以及智能基础设施愿景,都是未来推测。
- 对其他实验室、训练路线和公开榜单的评价不是客观评级或独立技术共识。
- 本报告的回归样本、权限分层与指标建议属于编辑实践延伸。
仍需留意
- RLCD 细节、公司使用量和产品性能没有在本报告中独立复现;不会因嘉宾履历把自述升级为证实。
- 视觉、长上下文、多规格模型、级联和全球部署等讨论包含未来方向,不能当成全部已经可用。
- 访谈涉及基准测试条款的记忆与法律核对尚不确定,本报告不提供条款结论。
- 官方逐字稿仍有口语重复与专有词噪声;争议句和缺少外部佐证的公司内部传闻不作为核心事实。
- 独立音频抽核是 ASR 比对,不是人工耳听全片;时间点供回听定位,边界可能有数秒偏差。
- 关于不造成大规模失业或前沿风险很小等判断,来源没有给出足以确证的证据。
金句与关键词
I want to make sure that it works reliably.‘我想确保它能够可靠地工作。’这句短引文已按官方逐字稿核对,位于 01:34:17 起的发言:嘉宾看完电脑操作演示后,仍坚持验证可靠性。reliably 指稳定可信地工作,而非偶尔成功。上方十条完整英文观点另为非逐字忠实改写,与此处逐字短引文明确区分。
回到原始内容
本期根据完整节目整理,英文观点句为非逐字忠实转述,中文按对应句子直译。来源方法与未确认事项见上文。了解编辑说明
处理方式:完整阅读 Latent Space 节目官方页面逐字稿约 189,420 字符,从开场到 02:20:51 告别。下载完整官方 RSS 音频,经 ffprobe 检查约 8,452.54 秒,另用本地 MLX Whisper medium 独立抽核四处各 30 秒。正式稿、完整英文观点、同句中文直译与难词均由本次 AI 流程逐项编辑审阅;不将抽核称作人工耳听全片。
报告生成时间:2026/9/22 10:31:42(北京时间)
收录于 2026-09-22