核心内容
Anthropic 可解释性研究员 Emmanuel Ameisen 与 Lenny Rachitsky 讨论语言模型的内部机制。发布方介绍列出概念表征、跨多个词的提前规划,以及训练中逐渐形成复杂能力等议题,并解释为何只用“预测下一个词”概括模型会遗漏重要机制。
节目还讨论可解释性如何连接对齐与安全、Golden Gate Claude 实验,以及如何进入这一研究领域。相关发现和模型类比按嘉宾与发布方的表述呈现,完整内容尚未核读;已取得的 YouTube 自动字幕仍待听校,Newsletter 付费全文未获取。
Anthropic interpretability researcher Emmanuel Ameisen joins Lenny Rachitsky to discuss internal model mechanisms. The publisher highlights conceptual representations, planning across multiple tokens, and capabilities that develop through training, examining what the next-token-prediction framing can leave out.
The outline also connects interpretability with alignment and safety, the Golden Gate Claude experiment, and paths into the field. Findings and analogies reflect the guest and publisher. The full episode remains unreviewed; available YouTube automatic captions await listening checks, and the paid newsletter transcript has not been acquired.
介绍依据 · 发布方说明 · 完整内容待核读
编辑导览,依据原始来源 ↗,整理于 2026-10-19。中英文均由本站概括整理。 内容介绍与下方原话、主张的逐条核对分开标注。
- 收录2026-10-19
- 逐字稿自动字幕
- 二次核对等人听原片
- 提炼未开始
采集库里有自动字幕。机器识别,人名和数字常错;要加引号,得先听原片登记二次核对。 原话怎么核对 →
收录说明:原发布方说明与时间线已核对;自动字幕已接入私有核对材料,完整内容及说话人仍待听校。
相关
Nathan Labenz 与 Cameron Berg:当智能体把主人锁在门外,以及模型的“隐性效价”实验
Cameron Berg·Cognitive Revolution·播客 · 2026-10-17
同话题 · 理解与测量
Blaise Agüera y Arcas:合成智能、多智能体递归建模与关系性意识
Blaise Agüera y Arcas·Info-Tech Digital Disruption·播客 · 2026-10-12
同话题 · 学习范式与路线
Henry:Muse 引爆个人助理、Astra 进入机器人、OpenAI 收入猛增
Henry Yin·晚点聊 LateTalk·播客 · 2026-10-02
同话题 · 学习范式与路线已核对原话
刘子鸣:新型 AI 实验室、AI for AI 与机制可解释性
刘子鸣·张小珺访谈录·播客 · 2026-07-31
同话题 · 学习范式与路线已核对原话
David Silver 与 Lasse Espeholt:从经验中自主学习的超级学习者
David Silver · Lasse Espeholt·Sequoia Training Data·播客 · 2026-10-13
同话题 · 学习范式与路线