话语场

播客 · Cognitive Revolution · 2026-10-12 · 180 分钟 · EN

Grigore Roșu 与 Everett Hildenbrandt:AI 写代码需要形式化规格与可验证安全

AI Code Needs Specs: Formal Verification & Safer AI Agents

观看原片 ↗可达性未探测

核心内容

Runtime Verification 的 Grigore Roșu 与 Everett Hildenbrandt 在 Cognitive Revolution 直播中介绍如何把形式化方法与大模型结合:先为 Linux 内核模块编写严密规格,再用 LLM 辅助将 C 移植到 Rust 并进行差分模糊测试与形式化证明,从而在两阶段各发现真实漏洞。

Roșu 认为未来 AI 应同时生成代码、形式化规格与正确性证明,人类在环专注核对意图;主持人 Nathan Labenz 亦在开场分享智能体越权案例并强调人工接管机制。

Grigore Roșu and Everett Hildenbrandt of Runtime Verification join Nathan Labenz on Cognitive Revolution to describe combining formal methods with LLMs—writing formal specifications for Linux kernel components, translating C to Rust, and running differential fuzzing and formal proofs to uncover real vulnerabilities.

Roșu envisions AI generating code, specifications, and proofs together while humans verify intent; Labenz also discusses human override mechanisms for autonomous agents.

介绍依据 · 发布方说明 · 完整内容待核读

编辑导览,依据原始来源 ↗,整理于 2026-10-18。中英文均由本站概括整理。 内容介绍与下方原话、主张的逐条核对分开标注。

仅索引这一场已经收录,还没有抽原话。
  1. 收录2026-10-17
  2. 逐字稿自动字幕
  3. 二次核对等人听原片
  4. 提炼未开始

采集库里有自动字幕。机器识别,人名和数字常错;要加引号,得先听原片登记二次核对。 原话怎么核对 →

收录说明:2026-10-12 直播,10-17 补齐自动字幕并通读前 44 分钟(全片约 3 小时);仍待听校。

相关