话语场

播客 · 80,000 Hours · 2026-08-27 · 227 分钟 · EN

AI 2027 作者回来了,带着改写结局的计划

An AI 2027 Author Returns, With a Plan to Change the Ending (80,000 Hours × Daniel Kokotajlo)

观看原片 ↗境内需要国际网络

核心内容

Daniel Kokotajlo 回访 AI 2027 的发展情景,讨论怎样改变预测中的结局。本期的核心问题是,预测如何转化为能够采取行动的治理计划。

介绍依据 · 发布标题 · 完整内容待核读

编辑导览,依据原始来源 ↗,整理于 2026-10-06。 介绍只说明标题中的讨论议题,不据此判断讲者结论。

《AI 2027》预测的灭绝与权力极权结局并非不可逆。通过「Plan A」——由中美等大国签署协调协议,全面公开算法训练配方以换取互信核查,将技术进展主动锚定在人类专家级 AGI(既能释放年翻倍的 GDP 红利,又能用常规对齐工具可控),并以美国算力硬件优势维系均势,可有效防范智能爆炸引发的不可逆毁灭。

原话

2逐字核对过;核对了说话人和位置

趋势似乎表明,我们距离完全实现 AI 研发自动化只有几年时间——在那之后,超级智能大概也不远了。

the trends seem to indicate that we’re just a couple years away from fully automating AI research — and that after that, superintelligence is probably not that far away.

语境:Daniel Kokotajlo 指出 METR 任务时域与行业营收等多重指数曲线均预示自动化 AI 研发即将来临,驳斥技术见顶论。

支持 → cbs-news-dario-amodei-20260913

支持 → latent-space-richard-socher-20260914

我们并没有放弃算力领先优势。在 Plan A 中,我们放弃的是算法领先优势。因此在 Plan A 中,由于完全的研究透明度,中国和其他所有人都能看到制造 AI 的配方。

We’re not giving up our compute lead. What we’re giving up is our algorithms lead, in Plan A. So in Plan A, because of the total research transparency, China and everybody else gets to see the recipes for making the AIs.

语境:解释 Plan A 为达成中美大国协调所做的核心让步设计:以算法透明消除修昔底德陷阱,以硬件物理算力维系安全均势。

支持 → the-ezra-matt-sheehan-20260915

支持 → youtube-daniel-kokotajlo-20260908

主张

1转述不加引号;附原文依据和位置,核对范围见语境与收据

Plan A 的核心构想是将技术停留在人类专家级 AGI 的甜点区间:该水平既能以现有可控技术驾驭并带来每年 GDP 翻倍的经济红利,又能避免智能爆炸引发的失控与独裁风险。

语境:论证为何 Plan A 优于彻底停机的 Plan S:在可控能力与经济激增之间寻找稳定支点,以渐进节奏防范地下隐蔽项目的突袭。

支持 → youtube-daniel-kokotajlo-20260908

相关