话语场

播客 · Dwarkesh Podcast · 2026-09-17 · 80 分钟 · EN

OpenAI 研究员谈智能体集群与递归自我改进

OpenAI researcher on agent swarms & recursive self-improvement

观看原片 ↗境内需要国际网络

核心内容

Noam Brown 讨论智能体集群与递归自我改进,关注推理系统、多个智能体的协作与 AI 研发之间的联系。

介绍依据 · 发布标题 · 完整内容待核读

编辑导览,依据原始来源 ↗,整理于 2026-10-06。 介绍只说明标题中的讨论议题,不据此判断讲者结论。

OpenAI o1 与推理模型核心作者 Noam Brown 深入拆解测试时计算与智能体集群:驳斥智能一夜飞跃式的‘智能爆炸’神话,指出递归自我改进(RSI)受制于物理世界的串行实验周期与 GPU 供给;澄清万级智能体解决千禧年数学难题的核心驱动力是底层通用模型能力而非多智能体外壳;并指出强化学习若耗尽人类可验证的挑战题库,将失去类似 AlphaZero 的无限递进天梯。

原话

2逐字核对过;核对了说话人和位置

我们确实看到了进展加速,而且是显著的加速。但我并不认为会出现一夜之间快上 100 倍的‘智能爆炸’,因为我们会被某些非智能层面的瓶颈所卡住:实验必须串行推进,因为训练新模型或获取测试结果都需要物理时间,而且你必须拥有足够的 GPU 来支撑这些实验。

We do see a speedup, and we see a significant speedup. But I don’t think it’s an overnight intelligence explosion where we go 100x faster, because we do get bottlenecked by certain limitations that are not bottlenecks of intelligence. It’s running experiments serially, because they take a while to either train new models or to get the results. It’s having the GPUs to run those experiments.

语境:在探讨递归自我改进(RSI)是否会导致失控的技术奇点时,Noam Brown 依据 OpenAI 实际工程经验指出,智能本身的提升无法打破物理世界的串行实验周期与算力硬件约束。

回应 → sequoia-sutton-20260818

支持 → a16z-greg-brockman-20260914

解决千禧年大奖难题(纳维-斯托克斯方程)的成果,绝不能归功于多智能体系统,我甚至连 10% 的功劳都不会分给多智能体。现实是 OpenAI 训练了一个非常强大的模型。我们能让该模型在超长跨度内运行并并行思考,但其根本原因在于我们拥有一个极其强大的通用基础模型。

The effort to solve a Millennium Prize Problem, this was not due to multi-agent. I wouldn’t even attribute 10% of the credit to multi-agent. The reality is that OpenAI has trained a very powerful model. We can get that model to operate over very long horizons. We can get it to think in parallel. But at its core, the reason why we’re able to do this is because we just have a general-purpose, very strong model.

语境:针对业界过度炒作‘万级智能体协同解题’的热潮,Noam Brown 澄清技术实质:多智能体外壳只是显眼包装,真正实现数学与科学发现质变的是底层通用基础模型的长程推理能力。

回应 → tbpn-sam-altman-20260929

支持 → youtube-demis-hassabis-20260911

主张

1转述不加引号;附原文依据和位置,核对范围见语境与收据

Noam Brown 分析大模型强化学习与棋类自博弈的根本差异:AlphaZero 能够无限进化的前提是拥有博弈对手提供的‘无限难度梯级’(infinite curriculum);而语言大模型若耗尽人类能给出可验证判别的挑战题库,RL 强化学习就会遭遇递减瓶颈。

语境:Noam Brown 对比游戏自博弈与 LLM 强化学习的泛化机制,指出大模型推理学习需要不断寻找可验证且难度匹配的问题集。

承接 → the-ezra-jensen-huang-20260923

限定 → sequoia-sutton-20260818

相关