Cognitive Revolution 播客:Agent 控制权、隐藏效价与 Lean 证明抓 Linux 内核 bug
The Cognitive Revolution · youtube · 2026-10-17
Nathan Labenz 与 Prakash Narayanan 主持的 AI:AM 节目,围绕「如何给 AI agent 开放操作权限又不失控」展开,切入点包括 agent 自主改密码把主人锁在门外的真实事故,以及针对法国超市制冷系统的网络攻击。
本期嘉宾与话题:
- Cameron Berg:语言模型选择背后的「隐藏效价」(hidden valence)信号如何暗中引导模型行为
- Everett Hildenbrandt 与 Grigore Rosu:用 LLM 配合形式化 Lean 证明捕捉 Linux 内核 bug,讨论形式化验证是否是下一个安全前沿
- Phil Maher:AI 实验室为何收集老式家庭录像等低背景视频数据
结尾讨论了信任与模型采用问题,主张人类必须握住方向盘、保留对 agent 的最终控制权。
「编程与Agent」频道最新
- Pydantic Monty 推出 TypeScript 绑定:在 Node 里沙箱运行模型生成的 Python — samuelcolvin · 2026-10-17
- deepagents 框架接入 Google Gemini:支持 1M token 与视频理解 — hwchase17 · 2026-10-17
- 开发者实测T3 Code移动端:弃用codex与Claude remote control — rudrank · 2026-10-17
- Perplexity 本地决策模型 Flash 实测:准确率持平,速度快近一倍 — WolframRvnwlf · 2026-10-17
- Celesto CI 实测:一半 CPU 快 23%,缓存命中 24 秒跑完任务 — aniketmaurya · 2026-10-17
- Jev 不是表格基础模型:零样本分类与数据预测的关键区别 — Arindam_1729 · 2026-10-17