核心内容
Goodfire 的 Eric Bigelow 与 Nathan Labenz 讨论可解释性研究如何帮助理解模型和智能体的行为,涉及关键 token、行为相变与上下文学习。
本期也讨论思维链监控的可靠性:模型表现出来的推理过程,在多大程度上能够解释其实际决策。有关实验结果与其他模型的判断应保留研究条件和嘉宾自述的边界。
Goodfire’s Eric Bigelow joins Nathan Labenz to discuss how interpretability research can help explain model and agent behavior, including critical tokens, phase shifts, and in-context learning.
The conversation also examines the reliability of chain-of-thought monitoring and how closely visible reasoning reflects actual decisions. Experimental conditions and the distinction between guest claims and independent confirmation remain important.
介绍依据 · 发布方说明 · 完整内容待核读
编辑导览,依据原始来源 ↗,整理于 2026-10-12。中英文均由本站概括整理。 内容介绍与下方原话、主张的逐条核对分开标注。
- 收录2026-10-11
- 逐字稿发布方文字稿(经编辑)
- 二次核对等人听原片
- 提炼未开始
采集库里有发布方文字稿(经编辑)。可能经过 AI 转写或编辑整理;引用前须听原片并登记二次核对。 原话怎么核对 →
收录说明:发布方明确说明文稿为自动生成,可能有措辞与说话人识别错误;已读范围为 46:41–57:11、1:31:49–1:57:07。引用前仍需听校,不标为人工官方逐字稿。
相关
Claude Code 的未来:Mods、可变软件与多人智能体
Thariq Shihipar·Latent Space·播客 · 2026-09-29
同话题 · 理解与测量已核对原话
Nathan Labenz:智能体隐蔽合谋、前沿全功能教师模型与安全收敛
Nathan Labenz·Cognitive Revolution·播客 · 2026-09-27
同话题 · 智能体落地已核对原话
为什么 80% 的可靠性还不够
Felipe Blanes·AI Engineer·演讲 · 2026-10-08
同话题 · 智能体落地已核对原话
Tibo Sottiaux:让人处在 AI 产品的中心
Tibo Sottiaux·Pioneers of AI·播客 · 2026-10-07
同话题 · 智能体落地
OpenAI DevDay 现场:Altman 谈芯片计划与未解的对齐
Sam Altman·TBPN·访谈 · 2026-09-29
同话题 · 智能体落地已核对原话
OpenAI 总裁谈跨入 AGI 时代意味着什么
Greg Brockman·a16z·访谈 · 2026-09-14
同话题 · 智能体落地已核对原话