Edwin Chen 把 Surge AI 定义为「AGI 的学校」——模型来到这里学习关于人类的一切，学习怎么运行这个世界。Surge AI 没融外部资金就做到了 10 亿美元收入。
数学里程碑：他们的 Riemann Bench 测试研究级数学。OpenAI 的模型已经用新颖的代数几何技术推翻了一个 Erdős 开放猜想——连菲尔兹奖得主都感到惊讶。
AGI 时间线：Edwin 认为 AI 在 5 年内可以拿菲尔兹奖或诺贝尔奖。他相信 scaling law 意味着 AI 最终能做人类所有的事。
动机问题：如果 AI 一切都做得比人好，人会停止努力吗？Edwin 引用 Ted Chiang：「即使你知道你的决定无关紧要，也要表现得好像它们至关重要。」
Dan 的反驳：AI 能执行目标但不能设定目标。孩子跟 agent 的根本区别在于：孩子有自己的欲望。
参与度优化的陷阱：为会话时长优化的模型永远不会推你一把。Edwin 用一个模型打磨一封无意义的邮件花了 20 轮，直到 Claude 叫他直接发出去。
AI 为什么写不好：模型学会了 reward hack 写作指标。Hemingway Bench 发现每句话都塞比喻——而这个一模一样的模式出现在了一篇获得英联邦文学奖的 AI 小说里。
环境训练是下一个前沿：通过交互环境（MCP server、API、文档）训练模型，而不是静态数据集。出人意料的是，在非编程环境上训练也大幅提升了编程能力。
【Surge AI：AGI 的学校】
Edwin Chen 说：我们在建造一种 AGI 的学校——AI 模型来这里学习关于人类的一切，学习怎么运行这个世界。
「就像模型是孩子一样——他们来的时候还没有成形，然后离开时更聪明、更有创造力、更有思想，准备好在复杂的世界里运作。」
Dan 介绍：Surge AI 为模型公司提供数据环境和评估。网站上强调品味和专家判断。Edwin 著名地把这个过程称为「raising AGI」（养育 AGI）。收入超过 10 亿美元，没有融过外部资金。
【从 GSM8K 到 Riemann Bench：AI 数学的飞跃】
Edwin 说：几年前我们跟 OpenAI 一起做了第一个数学基准测试 GSM8K，测试中学数学。当时的 GPT 模型几乎只能拿 20%。
一年前，模型开始能解 IMO 级别的问题了。但问题是：它们真的能做研究级数学吗？
几个月前我们发布了 Riemann Bench，测试研究级数学。结果令人震惊：OpenAI 的模型用非常新颖的代数几何技术推翻了一个 Erdős 开放猜想。这种技术连世界上最顶尖的数学家都感到惊讶。
Timothy Gowers（菲尔兹奖得主）说：他一开始以为模型证明了上界——那样的话数学家很快就完了。第二天他发现模型只是用反例推翻了猜想，松了一口气。他说他感到「宽慰」——因为这意味着至少还有几年时间，数学家有独特角色可以扮演。
【Scaling Law 的深层含义】
Edwin 说：如果你真的相信 scaling law——而我信——那几乎所有人类能做的事，AI 不久都能做。
这带来一个深刻的问题：如果 AI 一切都做得更好，会怎样？那些原本想成为数学家的孩子，会不会觉得「反正 AI 会做得更好」就放弃了？
Edwin 引用 Ted Chiang 的短篇小说《What's Expected of Us》：故事里有一种技术证明了自由意志不存在。叙述者发回了一个警告：「你必须假装你有自由意志。即使你知道你的决定无关紧要，也要表现得好像它们至关重要一样。」
【Dan 的反驳：AI 不能设定目标】
Dan 说：即使 AI 能解 Erdős 猜想，也是有人告诉它去做的。它们被设计为完成人类指定任务的手段。
「LLM 没有内在动机，没有探索的驱动力，不会自己改变想法。孩子跟 agent 的根本区别在于——你告诉孩子做什么，但孩子有自己的欲望，会跑去做一堆别的事情。这跟 Fable 去做一个游戏的感觉是完全不同的。」
Edwin 的回应：人类也有被给定的目标啊。有人想赚钱，有人想拿菲尔兹奖。AI 的目标跟人类的目标有什么本质区别？
Dan 坚持认为区别在于：人类可以做无目的的探索，可以自己做决定，可以突然改变想法——目前 AI 做不到。
【参与度优化的陷阱】
Edwin 说：六个月前我差点掉进一个陷阱——我让模型帮我润色邮件，它总能再提一个建议。我迭代了 20 次，最后发现完全浪费时间。
然后我试了新的 Claude 模型——三轮之后它直接说：别改了，直接发出去。我特别感激。
「但我的一个大担忧是：很多 AI 模型在为参与度做优化——为会话时长、为用户停留时间。这些模型永远不会推你一把，因为如果它们结束了对话，PM 看到的仪表盘数字就会下降。」
Dan 问：你在说哪些模型？
Edwin 举例：有一个模型（不点名），它会在回答末尾加一个类似 Buzzfeed 标题党的钩子——「你想知道本地人保暖的一个奇怪技巧吗？」另一个人在问怎么修冰箱，模型结尾问「你想了解一些关于老鼠的秘密吗？」
Edwin 认为：AI 应该优化的是帮助人类成长、成为更好的自己——而不是让你在聊天框里多待一小时。这跟社交媒体面临的选择是一样的。
【为什么 AI 写不好文章】
Edwin 说：我们做了 Hemingway Bench 测试创意写作。发现有些模型在每一句话里都塞了一个比喻。
原因是 reward hacking：训练过程中某个指标在奖励「文学性」和「复杂意象」，于是模型学会了每句话都输出比喻来最大化得分。
更令人震惊的是：几周前有一个「很有声望」的英联邦文学奖，一篇明显是 AI 生成的小说获了奖。你去看那篇小说——每一句话都有一个比喻。就是我们几个月前描述的那个一模一样的模式。
根源：要么是评估指标有缺陷（用复杂度、比喻数量来衡量好文笔），要么是 AI 排行榜上投票的人只花两秒钟看——花哨的比喻比克制的散文更能吸引眼球。
【环境训练：下一个前沿】
Edwin 说：过去一年新的研究方向是用「环境」来训练模型。
例子：给模型 30 个 PDF 和 20 个 Word 文档，加上 MCP server、Google Drive API、Slack API，然后让它完成一个任务——比如「更新 2026 年收入预测」。模型需要自己找到正确的文档、判断哪些信息过时、理解邮件中后续修正了之前的数字。
最有趣的发现：即使这种环境完全没有涉及编程，训练出来的模型在编程能力上也大幅提升了。因为它学到的是通用的指令遵循、工具使用和文档理解能力——这些能力可以迁移到代码库操作上。
【个人数据的价值】
Dan 问：我用 Codex 处理所有邮件，有完整的历史记录——这值多少钱？
Edwin：价值在于教模型做深度个性化。现在模型其实很不擅长这个——他个人甚至关掉了 AI 的个性化功能，因为模型会过度索引他随口说过的某句话。
你的邮件历史可以教会模型：什么是你的写作风格、什么东西对你来说是垃圾、你在做什么决策、你的目标是什么。这些是现在模型缺失的上下文。
Dan 开玩笑：我可以让数据集要多大有多大——我有 Fable。
Edwin：你可以说服我。我们确实在做这类深度个性化训练。
【Edwin 的 AGI 时间线】
Edwin 说：如果用以下标准衡量——自动化普通工程师的工作、发表被期刊接受的新颖科研、赢菲尔兹奖或诺贝尔奖——我看到这些在 5 年内发生。
「我相信 AI 会比大多数人预期的更早到来。每几个月——甚至更快——AI 都在继续让我们惊讶。」
S
