能力与路线 · AGI & timelines
通用智能与时间表
AGI 是什么、离我们多远、到了怎么知道
访谈 19 场 · 文献 0 篇 · 访谈话语 9 条 · 已核读摘录 0 条
这个话题下的话语
9原话逐字核对过;转述不加引号人们所恐惧的超级智能版本是一个独立模型,它在所有任务上的表现都超越专家,且不依赖任何人。我看到的模式是:各种新类型的数据都会被拉到上游注入到最大的前沿模型中,然后高效的专用专家模型再从中被蒸馏出来。
And the version of super intelligence people fear is a single model that does every job better than the specialists and depends on no one. My answer was the pattern as I see it so far. New kinds of data get pulled upstream into the biggest model and efficient specialists get distilled back out of it.
语境:Nathan Labenz 论证全功能通用大模型与领域专用小模型的关系:单一全能教师模型在前沿统摄所有模态,专用模型仅作为下游蒸馏产物。
在前沿领域,我至今还没有看到任何理由去相信:你所能制造的那个单一且最强大的教师模型无法学会世间所有的知识与技能。鉴于我们所目睹的一切,那正逐渐变成一个令人畏惧的庞然大物。
at the frontier, I just have not seen anything at all yet that makes me think that the the single biggest best teacher model you could make couldn't just learn it all. And that, you know, given what we've seen, that that starts to be a bit of a a scary beast.
语境:Nathan Labenz 反思安全界寄望通过限制模型通用性(安全源于专一性)的假设正在失效,单一超级智能教师模型的全知化正势不可挡。
电话、互联网、移动互联,我认为 AI 的规模至少与它们相当,甚至可能比所有这些都要大。[…] 它的影响力或许相当于工业革命的 10 倍,而额外的挑战在于,它的发生速度很可能要快上 10 倍。
Telephone, we've heard, the internet, mobile, I think it'll be at least as big but perhaps bigger than all of those. […] maybe something like you know 10 times the impact of the industrial revolution and the additional challenge is that it's probably going to happen 10 times faster
语境:在探讨 AI 对人类社会的整体冲击时,Demis Hassabis 将其与电力、互联网和工业革命做对比,指出本轮技术革命最根本的挑战在于影响规模是工业革命的 10 倍,而扩散速度快了 10 倍。
人类个体从来都不具备掌控全局的独立全知能力,社会、城市与现代社区本身就是远超个体智能总和的超级智能体;人机超级智能的落地同样不会出现戏剧性的顿悟,而将以严密的规则系统平滑融入社会基础设施。
语境:Tobi Lütke 解构超级智能的科幻恐慌:强调人类社会自古便是依赖复杂分工与制度制衡运行的集体超级智能,合成超级智能的到来本质上是这一演化进程的延续。
趋势似乎表明,我们距离完全实现 AI 研发自动化只有几年时间——在那之后,超级智能大概也不远了。
the trends seem to indicate that we’re just a couple years away from fully automating AI research — and that after that, superintelligence is probably not that far away.
语境:Daniel Kokotajlo 指出 METR 任务时域与行业营收等多重指数曲线均预示自动化 AI 研发即将来临,驳斥技术见顶论。
我们确实看到了进展加速,而且是显著的加速。但我并不认为会出现一夜之间快上 100 倍的‘智能爆炸’,因为我们会被某些非智能层面的瓶颈所卡住:实验必须串行推进,因为训练新模型或获取测试结果都需要物理时间,而且你必须拥有足够的 GPU 来支撑这些实验。
We do see a speedup, and we see a significant speedup. But I don’t think it’s an overnight intelligence explosion where we go 100x faster, because we do get bottlenecked by certain limitations that are not bottlenecks of intelligence. It’s running experiments serially, because they take a while to either train new models or to get the results. It’s having the GPUs to run those experiments.
语境:在探讨递归自我改进(RSI)是否会导致失控的技术奇点时,Noam Brown 依据 OpenAI 实际工程经验指出,智能本身的提升无法打破物理世界的串行实验周期与算力硬件约束。
如果我们向前走两年再回过头来看,我认为大家会说:正是这个阶段诞生了 AGI。我们当下正身处这一历史转折点,但这绝非你在当下某个具体单日就能轻易断言的单点事件。
if we go forward two years and we look back, I think that that we will say this is when AGI was created. So I think we are going through that moment, >> but it's not it's not something where you could just say it now. I don't think
语境:Greg Brockman 纠正将 AGI 视作「顿悟时刻」的早期幼稚看法:能力的指数演进与工作流的深度渗透是平滑发生的,唯有在事后回望时才能确认拐点的跨越。
成熟的 AGI 消费级体验必须完全消除底层技术痕迹;用户不应被迫在不同标签页、模型选择器或思考时间档位间纠结,系统应具备足够的主动上下文理解与信任机制并在后台自主完成任务。
语境:Greg Brockman 批判当前 AI 产品将底层架构复杂度转嫁给用户的过渡形态,提出以信任与主动感知为底座的极简交互愿景。
我认为 AGI 已经不再是一个单一的时间点,而是一个模糊的光谱。对我而言,Astra 确实触及了一个临界点,让我觉得‘把它称为 AGI 已经相当合理’——凭借其计算机使用能力,你真正可以让它执行长时间运行的任务,而它就直接去完成了。
Well, I think that AGI has turned out to be less of a point in time and more of this sort of fuzzy spectrum. And for me, Astra has really hit something that I'm like, okay, I think this is pretty reasonable to call it AGI in that with its computer use capabilities, you really can ask it to do long live tasks and it'll just do it.
语境:在探讨 OpenAI 内部对 AGI 的界定标准时,Brockman 指出 AGI 并非离散的顿悟时刻,而是随模型能够自主调用工具、在长达 24 小时的跨度内稳定完成多步骤复杂任务而渐进实现的连续光谱。
讲者与作者
16
通用智能与时间表Nick Bostrom:超级智能、放缓与暂停的取舍
Nick Bostrom·MTS
递归自我改进David Silver 与 Lasse Espeholt:从经验中自主学习的超级学习者
David Silver · Lasse Espeholt·Sequoia Training Data
商业模式与格局印奇 × 张小珺:大模型全链路生态、长周期残酷淘汰赛与战略取舍
印奇·张小珺访谈录
Andrej Karpathy:AGI 仍需十年,智能体还缺什么?
Andrej Karpathy·Dwarkesh Podcast
通用智能与时间表杨植麟 × 张小珺:长文本走向 Agentic LLM、系统 2 强化学习与通用智能探索
杨植麟·张小珺访谈录
通用智能与时间表Demis Hassabis:大模型、世界模型与 AlphaZero 式规划
Demis Hassabis·Dwarkesh Podcast
Ilya Sutskever:下一词预测、AGI 与模型可靠性
Ilya Sutskever·Dwarkesh Podcast
权力与社会结构Timnit Gebru:「它们不是超级智能」
Timnit Gebru·Democracy Now!
安全与对齐Nathan Labenz:智能体隐蔽合谋、前沿全功能教师模型与安全收敛
Nathan Labenz·Cognitive Revolution
通用智能与时间表Hassabis 谈 AI 革命、AI 的未来与人类创造力
Demis Hassabis·YouTube
工作与职业Tobi Lütke:AI 让哪些技能更值钱
托比·卢特克·The Knowledge Project
安全与对齐AI 2027 作者回来了,带着改写结局的计划
Daniel Kokotajlo·80,000 Hours
递归自我改进OpenAI 研究员谈智能体集群与递归自我改进
Noam Brown·Dwarkesh Podcast
通用智能与时间表Brockman:我们离真正的通用智能有多近
Greg Brockman·TIME
通用智能与时间表OpenAI 总裁谈跨入 AGI 时代意味着什么
Greg Brockman·a16z
通用智能与时间表DeepMind CTO 谈前沿模型、编程智能体与通往 AGI 的路
Koray Kavukcuoglu·Google AI Release Notes
递归自我改进研究者辩论:递归自我改进还有多远
Dwarkesh Patel·Dwarkesh Podcast
安全与对齐Brockman 谈 Astra 与对齐
Greg Brockman·Stratechery
学习范式与路线李飞飞为什么押注空间智能
李飞飞·a16z
