对话田柯宇：世界模型自回归路径、AI 自创表征语言与实习风波始末

抛铜板其实已经有点超出人的边界了，因为人预测不了这个事情；所以也就意味着，我们今天达到这个能力，其实比这个能力更低难度的预测我们已经都达到了。而做那些低难度的预测，其实它已经能干很多活了——比如说我做家务，我不需要预测那么复杂的东西，我可能只需要预测怎么样可以不把那个盘子打碎，这相对是比较简单的。

语境：以抛硬币物理轨迹预测为例说明世界模型的能力梯度：一旦模型掌握超越人类肉眼极限的高难度物理状态预测，向下兼容日常家务防摔防撞等低难度物理交互便水到渠成。

怎么把 GPT 这么大的成功复刻到别的领域来？那次我大概说了两句话：第一句话是我们要大规模地从视频里面学习一个自回归模型，这是目标；第二点是一个具体的路径，就是我们第一步得先做表征，而且我们做的这个表征得跟人的语言很不一样——我们得让 AI 自己造一门语言来描述视频。

语境：提出将 GPT 范式迁移至视频世界模型的双层路线图：以大规模视频自回归学习为目标，以构建脱离人类自然语言的 AI 原生视觉表征词典为第一阶段抓手。

它会先把这个图片理解为一句话，但那句话不是英语，而是 AI 自己有一门语言和自己的字典，字典里有它自己造的字。它看到图片之后就说出一句话，虽然我们不可直接理解，但可以通过别的方式去可视化——比如我们发现它自学出来的这门语言，经常性地这句话的开头就是图片里的一些大色块。

语境：解释视觉自回归表征中 AI“自创语言”的运作机制：模型通过离散词表将图像编码为机器内部语句，可视化显示其语法往往遵循从全局大色块到局部细节的由粗到细顺序。

它其实是因为你看见了事实是这样——实践出真知，大家看到它两边取对数以后是个直线，所以观察到 Scaling Law。但我们终归是在想：它凭什么有 Scaling Law？它凭什么呢？这个东西它总得有个理由。

语境：反思深度学习界对 Scaling Law（缩放定律）的经验主义依赖：双对数坐标下的幂律直线只是经验观测结果，研究者仍需追问并厘清驱动缩放定律成立的底层数学与物理机制。

而且恰恰还有希望产生一些巨大的好的价值，那我觉得这是一个很难得把握住的机会，所以我把它概括为一个黄金时代。如果没有创业你觉得会做什么？我不管创不创业反正我都干这个事，因为我自己一直觉得，对于 AI 这档子事，我都可以干 50 年、70 年，我一辈子都干这个。

语境：表达对通用人工智能研究周期的长期信念：将当下视为 AI 创造巨大社会价值的黄金时代，并视底层模型研究为跨越数十年的终身事业。