MAD Podcast 全新一期（本刊首次收录）：Matt Turck 对话 TypeSafe CEO、RLHF 共同发明人 Diogo Almeida——Jev「决策模型」API 完整解读：只回概率不回文本；系统一智能的独立市场；用「聪明的 if 语句」取代巨型自然语言 prompt；RLHF 的副作用复盘（谄媚、过度拒答、模式坍缩、「让模型在决策上变笨一点」）；RLVR 碾压基准却没改变自动化（「95% 爱因斯坦、5% 憨豆先生——不告诉你何时是憨豆，你怎么敢自动化？」）；新训练法 RLCD 与「最苦的教训」；对「只是个分类器」的正名（Facebook、TikTok、Google 全靠分类器）；「造 prod，不造神」；对 RSI 的怀疑与「AI 冬天」已解除的判断。完整译文见下。
【开场：Jev 是什么】
Matt Turck（MAD Podcast）：欢迎 Diogo Almeida——TypeSafe 的 CEO。Jev 发布约三周，我从未见过一个发布引起这么大轰动。请用一分钟介绍自己与公司。
Diogo：我曾是 OpenAI 的机器学习研究员，RLHF 的共同发明人之一。现在的公司叫 TypeSafe——名字来自软件工程里的类型安全：让错误不可能发生、让程序员不担心东西出岔。Jev 是我们的产品：一个 API，输入数据与指令，返回概率——不是文本。比如「这封邮件是愤怒的吗：0.85」。
【系统一 vs 系统二】
主持人：用卡尼曼的系统一（快思考、直觉）/系统二（慢思考、推理）框架，Jev 属系统一、经典 LLM（ChatGPT 式）属系统二，方向对吗？
Diogo：方向对。补充一个细微处：没做 latent reasoning（隐藏推理）训练的模型本来就是系统一模型；AI 在常识意义上的系统一非常强。是推理训练让它们能做系统二任务，但它们在系统二任务上永远脆弱。我的主张是：AI 就是擅长系统一，而这本身已极其有价值——据我所见，我们远未解决系统二的「参差性」；说「系统二不成则全盘皆输」是把婴儿跟洗澡水一起倒掉。
【可组合性：逻辑门的胜利】
Diogo：大段题外话但值得：软件用最基础的逻辑门（与、或、比特比较）做到了多少事？从 1980 到 2020 年的技术基本都由软件驱动（作为软件工程师我可能有偏见）。软件变强大的方式不是「这里放个与门」，而是把一个工作单元做得可靠到能变成更大的东西、然后组合起来。AI 的用量爆发也会走这条路：先有人显式地映射出工作流（工作流自动化会是这样开始），然后把工作流装进「盒子」，人们去调用更高层的盒子——这就是软件的全部。盒子要可售卖、安全、可靠；而且一旦花功夫造出来，就可以无限复制。想象乐高能建高楼还能随意复制粘贴——软件之于自动化正是如此。
所以系统二任务并没有出局——我们相信系统二任务应该由「可靠到可以被信任、被构建于其上」的简单构件组合而成。而 AI 至今不可组合：除了别的 AI，它跟什么都不玩得来——挺悲哀的。
【邮件助理的例子】
主持人：客户支持太复杂，换个相近但简单的例子？
Diogo：邮件行政助理。据我所知日程助理至今没被解决——人们试了多年。LLM 的做法：写一个巨大的系统提示词、塞满你的偏好；风格上永远无可挑剔（永远不会不像一封好信）、永远讨人喜欢（LLM 太擅长谄媚），但经常不做对决策。于是人们不停往系统 prompt 里打补丁：投资者来信这样、入站邮件那样……复杂度一升、错误率越来越高——因为你只是在祈祷模型别犯那些错。错一次要么尴尬要么昂贵（比如没跟重要投资者约上会），最后把系统整个拔掉换回人类。
Jev 的做法：不用自然语言描述「如果重要就……」，而是为每一件事做独立的分类器——智能的 if 语句：过去软件表达不了「这是不是入站邮件」这种意图，现在可以了。你得到一个可读（legible）的系统：每个 if 语句的准确率都可测量、没有一个会被忘记；出了错，因为系统可读，直接加进 eval。它起步会比文本系统差——文本系统有一堆体面的默认值、看起来很合理（它就是被训练成讨人喜欢的样子）——但你真正在乎的行为，你拿得到控制权。这就是系统一模型 + 代码能给的：代码是过山车的轨道，你不会脱轨；类型安全同理。因为可读，这些系统容易建、也才敢放后台跑。
【分解与概率阈值】
主持人：所以 Jev 把输入翻译成一组概率：紧急与否、升级与否、发给哪个部门？
Diogo：对，而且不要直接问 Jev「该不该升级」——那是太高级的决策，需要经验与信任。把问题一直分解到最低层：过滤入站销售、过滤猎头；「别人已在抄送的邮件我就别出现在里面，但若对方说『Diogo 你看看这个』，我突然就该看见」——这类精细行为需要聪明人想，但无论哪种方式，系统总归要被编程——自然语言或代码；用代码更便宜、更快、且保证执行。随使用不断往下钻、把行为越调越准。
为什么返回概率：这是我们从 OpenAI 学到的教训。模型没有细粒度控制——拒答就是例子：同一条请求，刷新一下有时拒有时不拒，这行为很疯狂。而你的拒答阈值跟别人很不一样：迪士尼对角色与 IP 的保护阈值，跟 Character AI（爱做角色扮演）必然天差地别。离散决策没有意义；给开发者尽可能多的信息，让他们为自己的应用选阈值：「我把一位极重要投资者的邮件错分类了——把阈值调低，我可以接受误报，实在受不了漏报。」
【速度与价格：扔掉文本生成】
主持人：为什么更快更便宜？
Diogo：不谈智能就没法谈速度——想快我砍半网络就快一倍。我们显然在一个新的速度量级上：扔掉了极慢、极贵的文本生成部分；我们不是自回归的——更喜欢这种并行式的、对正确答案的渐进发现。但人们没意识到的不只是工程上砍掉慢件，而是「你优化什么就得到什么」：我们要从这些美妙的认知核里以最好、最丰富、最致密的方式萃取智能。发布前的悲剧是：AI 明明不可思议地强，却对大多数事毫无用处。不只是拔掉插头、扔掉坏部分，还要把智能磨平、做到足够鲁棒，让它浮现出来。
【分类是 AI 完备的】
主持人：这不算窄而专吗？
Diogo：我会反驳「窄而专」。可以微调小模型做窄任务；但我主张分类是 AI 完备（AI-complete）的：通用万能验证器/分类器绝对 AI 完备——哪怕你想要文本输出（对系统来说挺少见），完美分类器也能变成它。所以这不是窄，是另一种形状的智能——它自己就是一个大分支，下面会有非常多优美的子分支。现在有三种类型，未来会更多——到时候大家就明白我们为什么没叫它「决策模型」。
【RLHF 复盘：它的功与它的罪】
主持人：你共同发明了 RLHF——它在根上出了什么问题？
Diogo：一句话：RLHF 是让模型会聊天、让模型讨人喜欢。回头看，RLHF 的很多优化极其风格化，而不是更深地接通网络里的事实。它「成为 RLHF」的关键是任务本身：为人类偏好优化 + 文本进文本出的形状。当时我们是 OpenAI 的黑羊——没人喜欢把昂贵的人类放进回路，太难迭代。我们打地鼠式地追问题、不断解决，直到它通用、讨喜、好用。创造 AI 新方向最难的部分是「知道任务是什么」——事后看显然，当时充满不确定。所有照抄我们的人都不必再趟这些——我们把迭代的苦活全干了、写进了论文。RLHF 是对你偏好的最优代理：所以你永远看不到「一眼就烂」的输出——尽管它可能跟一个错得离谱的答案一样糟；对明显烂的惩罚极重，严重扭曲了模型的概率空间。
副作用：谄媚、过度拒答、模式坍缩（风格上极度重复——每个模型重复的方式不同，但你用多了就能感觉到「它老说这句」——这是 RLHF 让模型死守安全风格车道的副作用，代价是预训练模型曾有而 RLHF 后失去的创造力：预训练模型狂野、有创意、怪异，体内装着互联网上的全部风格，偶尔完全脱轨——那很美）；还有我认为 RLHF 让模型在决策上比预训练模型笨了一点。最让我担心的：RLHF 大大抬高了期望——人类感知的模型水平与现实脱钩，大家觉得「我的天，什么都能自动化了」，而经验上并没有发生。
【RLVR：碾压基准却没改变自动化】
主持人：RLVR（可验证奖励的强化学习）呢？
Diogo：RLVR 是为「可简单评测」的任务（数学、证明、过单元测试）在中间做任意复杂的事（推理链）。关键不只是可验证奖励——那早有人试、一直不 work——而是需要中间的推理链做创造性的事才能到达答案。RLVR 在基准上完全不平台期：按构造它就是「刷基准」任务的形状，于是造成了另一种「过度承诺、交付不足」。RLVR 很酷，但我担心的是自动化：经验上 RLVR 没有真正改变自动化。它也随机、不可靠——我喜欢这么形容：95% 爱因斯坦、5% 憨豆先生；它不告诉你什么时候是憨豆，你怎么敢自动化任何东西？校准（知道自己何时不可靠）模型至今不擅长。
【RLCD 与「最苦的教训」】
主持人：所以你们发明了新训练法？
Diogo：我不愿只叫它后训练——当年我们做 RLHF 时「后训练」这个概念都不存在。RL 只是整个任务派的一小片：任务是搞清输入输出长什么样、怎么指导标注、北极星是什么、数据集怎么配平。数据也一样：指令跟随的数据在 RLHF 之前根本不存在于世界上；RLVR 的数据（RL 环境）存在但没人能训练所以没市场。我们都得发明新形状的数据、迭代、然后自己造——全部 in-house，可见的未来都会如此：全世界不知道自己在干什么，而世界级的专家都在我们队里。我们显然不需要用户数据。
关于我那篇「最苦的教训」：Sutton 的苦涩教训大意是算力与规模化比算法重要。我认为这对 Sutton 当时做 RL 的游戏环境是过度简化——游戏里任务和数据都是算力的函数；真实世界里没有数据你什么都做不了：互联网数据已经用完，预训练无法继续 scale。而要 even 知道数据该长什么样，你得先有任务。你优化什么就得到什么——所有人都直觉懂这个，除了机器学习研究者。最大的收益永远来自「搞清任务」本身：ChatGPT 前后是聊天机器人智能史上最大的一跳，像大人打小孩；RLVR（Q*、o1）在基准上自成一档；同样地，因为我们是唯一为机器原生智能优化的人，从可靠机器原生智能的角度我们自成一档。
【预训练：资源的巨大浪费】
主持人：你们做预训练吗？
Diogo：我们用一组开源权重模型的组合——预训练模型里有大量压缩好的智能，但它们是文本形状的，所以我们要做一些「恶心的事」（作为热爱后训练的人我不愿称之为后训练——那是后训练的私生子化）。众所周知我们直到最近融资不到 4000 万美元——要么我们在预训练上有惊人突破，要么我们比别人更会因陋就简。是后者。说实话我认为预训练是浪费资源的巨大垃圾箱——希望永远不做，未来谁知道。
【「只是个分类器」是最高级的恭维】
主持人：很多人说 Jev「只是个分类器」。
Diogo：ML 人（尤其研究者）至今真看不懂 Jev 的价值——这对我们很好。分类器批评是我心中最蠢的批评之一：分类器不是老式机器学习的一种——某些类型是——分类器是一个接口，是把智能放进软件系统的形状。Facebook 怎么运作？分类器。TikTok 呢？分类器。Google 呢？分类器。软件靠比特比较做了这么多；想让智能影响代码里的分支、做复杂行为——靠的就是分类器。所以说 Jev 是分类器不但不是贬低，简直是恭维到不公平：等价于每个工程师随手就有一个 2019 年的 20 人 ML 工程团队、为你的每个念头即时建分类器——而实际上比那更聪明，因为今天的模型比 2019 年强。ML 人不懂，是因为他们忙着做苦涩教训里最不值钱的那部分（算法），忙着在数据中心里造神，而不去看真实世界、看自动化实际做了多少。
主持人：你 T 恤上那句话？
Diogo：Prod, not god——我们造产品，不造神。通用性上：LM 能做的任务它都能做；可编程性解锁更多——比如「我幕僚长发来的邮件、哪怕写得像 AI，也别标垃圾」——每个分类器为你定制。梦想是智能无处不在：数据库的每一行每一列、软件的每一层——盒子套盒子：一个又快又便宜的盒子被别的盒子调用一百次，就得到越来越高级的认知自动化单元。未来会科幻得难以置信。与 Cursor/Cognition 的区别：他们加速「写软件」本身（当软件工程师），我们要做软件里面的逻辑门——扩展软件工程师能做出的可能性，而不是取代他们。
【抄袭者们与基准无用论】
主持人：出 stealth 三周，Cloudflare、Databricks、微软都跟进了，OpenAI 也发了 Decisions API。
Diogo：我谈谈我的看法但不想贬人。我启动这个项目时以为一周就能做完——第一周确实做出了和现在跟风者很像的东西，但非常明显不鲁棒；这个问题困扰了我多年。拿形状、抄接口非常容易——像当年 Google 在 RLHF 之前发的 alpha：不是烂，是比没有还糟。据我对领域的判断，跟风者在真实可靠性上大概落后我们数年——但我想先测量再对外这么说。基准？无用。「谎言、基准与基准」。基准伤最深的恰恰是它号称要帮的用户——没时间自己试的那些人，被误导得最狠。我的请求：不必信我们，只是把我们的模型也试一下，哪个好用用哪个。唯一怕的是有人用了笨模型就断定这整类不行。顺带要给 OpenAI 的 Decisions API 一个 shoutout：他们没附基准——在我的书里因此比其他所有人都高一档。
【开源与市场：杰文斯悖论】
开源（Cloudflare 开源了他们的版本）？我们在想、辩论过很多。我们的模型目前远超他人但离「完全就绪」还远；API 让我们迭代快得多、服务得好得多。未来（尤其做小模型、端上时）不排除。开源短期是霰弹枪（foot gun）——有人就是爱玩枪，我也乐意给。市场：短期有重叠（大家从「拿 LLM 硬凑工作流」迁过来——那本来就不该是 LLM 的市场，只是当时只有这个工具），长期是完全独立的系统一市场。LLM 继续做文本与代码生成。Jev 这个名字来自杰文斯悖论：效率越高、用量越大——我们的智能会像半导体那样杰文斯（再套一层 for 循环、跑它 10 到 100 倍），而不像天然气。
【RSI 怀疑论与 AI 冬天的解除】
主持人：你持两个不常见的立场：一、我们并不在通往 RSI 的路上；二、AI 冬天已解除。
Diogo：RSI——我在这个领域待得够久、这支舞看过很多遍：人们看到小的百分比提升就外推到月球，现实是 Amdahl 定律。神经架构搜索的年代一模一样的叙事（效率+10%，然后自己发现自己、循环到不可思议），整个领域最后进了垃圾桶。真实世界的收益递减人们不懂；每次都是刚入场的人第一次尝到「自我改进」兴奋不已。基于我见过的证据，这不会发生。
冬天：某种意义上仍可能发生——巨头与超大规模者的股价可能回调，因为大家都在给「神之时刻」定价（我不是专家）。但我担心的那种冬天是：AI 继续在自动化上无可救药地无用——而这个已经不会发生了。我爱 ChatGPT、爱 Claude Code 与 Codex，但鉴于 AI 之强，这些还不够；几乎所有人内心深处都有同感：聊天机器人感觉很魔法，可它改变世界的方式少得奇怪——装瓶这么便宜的智能本该无处不在，可每年都有知名公司因为聊天机器人不够可靠、连得来速自动化都失败。这种状况会很快被解决。
【收尾】
周六录制、疯狂时段——但我们不是 996 公司，我们成熟而理性，北极星很不一样。感谢所有早期信徒：大多数听说过 Jev 的人还没 get it——没关系，真正需要知道的人已经知道了；get 到的人在社交媒体与私聊里尖叫着欢呼：「AI 终于变得合理了一点点。」