话语场

播客 · Lenny's Podcast · 2026-10-18 · EN

Emmanuel Ameisen:模型如何表征概念、提前规划与接受监督

Inside the black box of AI: How AI models actually think | Emmanuel Ameisen (Anthropic)

核心内容

Anthropic 可解释性研究员 Emmanuel Ameisen 与 Lenny Rachitsky 讨论语言模型的内部机制。发布方介绍列出概念表征、跨多个词的提前规划,以及训练中逐渐形成复杂能力等议题,并解释为何只用“预测下一个词”概括模型会遗漏重要机制。

节目还讨论可解释性如何连接对齐与安全、Golden Gate Claude 实验,以及如何进入这一研究领域。相关发现和模型类比按嘉宾与发布方的表述呈现,完整内容尚未核读;已取得的 YouTube 自动字幕仍待听校,Newsletter 付费全文未获取。

Anthropic interpretability researcher Emmanuel Ameisen joins Lenny Rachitsky to discuss internal model mechanisms. The publisher highlights conceptual representations, planning across multiple tokens, and capabilities that develop through training, examining what the next-token-prediction framing can leave out.

The outline also connects interpretability with alignment and safety, the Golden Gate Claude experiment, and paths into the field. Findings and analogies reflect the guest and publisher. The full episode remains unreviewed; available YouTube automatic captions await listening checks, and the paid newsletter transcript has not been acquired.

介绍依据 · 发布方说明 · 完整内容待核读

编辑导览,依据原始来源 ↗,整理于 2026-10-19。中英文均由本站概括整理。 内容介绍与下方原话、主张的逐条核对分开标注。

仅索引这一场已经收录,还没有抽原话。
  1. 收录2026-10-19
  2. 逐字稿自动字幕
  3. 二次核对等人听原片
  4. 提炼未开始

采集库里有自动字幕。机器识别,人名和数字常错;要加引号,得先听原片登记二次核对。 原话怎么核对 →

收录说明:原发布方说明与时间线已核对;自动字幕已接入私有核对材料,完整内容及说话人仍待听校。

相关