话语场

播客 · Latent Space · 2026-09-23 · 92 分钟 · EN

生物安全是一场 AI 军备竞赛:Evo 2 与基因组护栏

🔬Bio-security is an AI Arms Race - Eric Nguyen (CEO, Radical Numerics)

观看原片 ↗境内需要国际网络

核心内容

Eric Nguyen 讨论 AI 与生物安全,关注模型能力发展与生物风险防范之间的关系。

介绍依据 · 发布标题 · 完整内容待核读

编辑导览,依据原始来源 ↗,整理于 2026-10-06。 介绍只说明标题中的讨论议题,不据此判断讲者结论。

基因生成大模型正在将 DNA/RNA/蛋白质全序列设计能力推向前所未有的高点,使得生物风险从传统网络滥用演变为分子级别的非对称威胁;仅在自然语言交互层设置对话拒答等护栏已远远不够,生物安全本质上是一场军备竞赛,唯有由掌握前沿生成能力的实验室在底层物理底座构建能辨识致病性变异的判别防御模型,才能真正建立有效的国家安全生物监视屏障。

原话

2逐字核对过;核对了说话人和位置

从根本上讲,这里存在着一种典型的军备竞赛动态,而防御端此前一直远远落后。我们要做的是让防御能力迎头赶上。作为基础研究实验室,我们坚信唯有掌握顶尖序列生成设计能力的团队,才最具备构建底层防御能力的资质,因为二者在模型底层本质上同出一源。

So I think inherently there is this arms race style dynamic that the defensive side has been far far lagging. And so what we want to do is bring the defensive side [music] to par. Essentially, we felt it was important as a lab that a team that was both building the design capabilities is actually also best suited for building the defense capabilities cuz they're basically the same models.

语境:Eric Nguyen 揭示生成式生物安全的核心悖论:能生成强效功能序列的模型天然具备判别潜在病原体的最佳表征,攻防一体的双重使命是生物模型团队不可推卸的责任。

支持 → all-in-satya-nadella-20260915

在某种程度上,在自然语言对话层建立安全审查确有必要;但显而易见,你更需要的是直接构建在生物分子序列底座之上的物理级安全护栏。模型不仅要能理解聊天文本的上下文走向,更必须能直接读懂生物底质(DNA/RNA/蛋白质)本身的致病潜力。

to some degree you need you know safeguards at the natural language level but I think what you also need clearly ly is it safeguards um at the biological sequence level too. So you need models that not just can understand language and you know the trajectory of of your chat but to understand the substrate itself is the next step and ultimate limit

语境:Eric Nguyen 批判浅层聊天过滤在生物危害面前的脆弱性:攻击者极易通过混淆提示词或直接合成 DNA 绕过纯文本拒答,唯有直接审查物理序列才能守住底线。

支持 → latent-space-eric-nguyen-20260923

主张

1转述不加引号;附原文依据和位置,核对范围见语境与收据

随着长上下文基因基础模型快速进化,序列从头设计能力势必呈指数增强;生物安全防范机制必须打破被动滞后局面,主动在生物合成上游部署自动化环境监测与致病性预测。

转述Eric Nguyen00:00:00

语境:Eric Nguyen 呼吁建立国家级生物安全预警机制:将长上下文基因组大模型融入 DNA 商业合成供应链与病原体监控网络。

支持 → latent-space-eric-nguyen-20260923

相关