302 个神经元的线虫启发了他们的架构

核心内容

Ramin Hasani 讨论受线虫神经系统启发的模型架构，关注生物结构如何成为 AI 设计的研究线索。

介绍依据 · 发布标题 · 完整内容待核读

编辑导览，依据原始来源 ↗，整理于 2026-10-06。介绍只说明标题中的讨论议题，不据此判断讲者结论。

生物大脑以极高能效展现了连续时间与微分方程驱动的表示学习优势；Liquid AI 通过神经架构搜索融合门控一维卷积与分组查询注意力（GQA），摆脱传统 Transformer 的二次方复杂度与显存饥渴，使得大参数量基础模型能够在边缘设备与普通 CPU 上实现极致轻量、高吞吐的确定性推理。

原话

2逐字核对过；核对了说话人和位置

这些在前向传播中由微分方程控制的系统具有高度非线性特征，且完全处处可微。因此你可以执行反向传播，并凭借其包含的多重反馈回路结构，极其优雅高效地从数据中完成表征学习。

these are highly nonlinear systems governed by differential equations in a forward pass and they are differentiable. So you can actually run them backward pass and you can basically learn them like really nicely because of the multiple feedback structures that they had.

自动字幕 · 已核对Ramin Hasani▶ 00:03:53 #学习范式与路线

语境：Ramin Hasani 阐释液体神经网络（LNN）的数学精髓：将动力系统微分方程与现代端到端梯度优化相结合，突破离散循环与自注意力机制的固有限制。

支持 → all-in-satya-nadella-20260915

细看 LFM-2 系列模型，它们拥有非常优雅且精简的架构设计：大体由 80% 的双门控一维卷积算子加上约 20% 的分组查询注意力（GQA）混合构成。这是一种高度精简、极速且高质的基础模型架构。

The LFM2 instances of the models, they are, if you look at them, they have a very elegant and simple architecture. So the architecture is basically 80% doublegated convolutions you know 1D convolutions plus some uh group query attention basically 20% of query. So the architecture is just a very simplified

自动字幕 · 已核对Ramin Hasani▶ 00:14:54 #学习范式与路线 #算力与芯片

语境：Ramin Hasani 公布 LFM-2 的算子混合配比：通过神经架构搜索找到能原生在 CPU 上高速跑通的自回归混合结构，极大削减对全自注意力机制的算力依赖。

支持 → latent-space-ramin-hasani-20260918