AI:AM 播客文字版：agent 权限失控、隐藏效价与形式化验证抓内核 bug
The Cognitive Revolution · rss · 2026-10-17
Cognitive Revolution 的 AI:AM 节目文字版，主题与音频版一致：如何给 AI agent 开放操作权限而不失去人类控制，讨论素材包括 agent 自主改密码导致锁定的真实摩擦，以及法国超市制冷系统遭网络攻击。
核心内容：
- Cameron Berg 谈语言模型选择中的「隐藏效价」信号
- Everett Hildenbrandt 与 Grigore Rosu 展示 LLM 搭配 Lean 形式化证明捕捉 Linux 内核 bug，探讨形式化验证是否是安全下一前沿
- Phil Maher 解释 AI 实验室为何收集老式家庭录像数据
结尾主张保留「人类方向盘」，维护对 agent 的最终控制权。
「编程与Agent」频道最新
- 开发者实测T3 Code移动端：弃用codex与Claude remote control — rudrank · 2026-10-17
- Perplexity 本地决策模型 Flash 实测：准确率持平，速度快近一倍 — WolframRvnwlf · 2026-10-17
- Celesto CI 实测:一半 CPU 快 23%,缓存命中 24 秒跑完任务 — aniketmaurya · 2026-10-17
- Jev 不是表格基础模型:零样本分类与数据预测的关键区别 — Arindam_1729 · 2026-10-17
- BFL 更新 FLUX 3 Image Klein 工作流:需配提示词升采样与 2K 分辨率 — bfl_ai · 2026-10-17
- 用户用 Claude 逆向复刻 TradingView、OBS,无需源码 — PrajwalTomar_ · 2026-10-17