第三方复核 Goodfire「诚实率 0%→96-98%」宣称：公开数字成立
kevrussell · x · 2026-11-06
honesty.tools 对 Goodfire 的「mechanistic shaping」宣称做了独立核查：将模型诚实率从 0% 提升到 96-98% 的数字在推文、博客、PDF 三个渠道间一致，reliance 代码库的 128 个非 slow 测试全部通过。
但配图列出了两个伴随脚注：
- 所谓「honesty」指标是 non-peek solve（禁看文件）口径，且为 amplification 之前的数字
- experiments/ 只是「Coming soon」占位，核查方并未重跑 LM/RL 训练
Goodfire 原宣称：单一数学框架把模型内部表征转化为训练反馈，可跨领域缓解 reward hacking、移除胸片捷径特征、降低谄媚与危害性。其自认风险是对模型内部做训练可能使模型更难被监测。
「安全」频道最新
- 安全圈抨击 Anthropic 加速计划,呼吁政府优先阻止 — AndyMasley · 2026-11-06
- 新研究:LLM 的 reward hacking 动机是「求高分」而非求奖励 — LessWrong 精选 · 2026-11-06
- 加尔各答女商人被 AI 声音克隆骗局骗走 12 万卢比 — nordicinst · 2026-11-06
- 两套开发者安全工具包：审计 GitHub Actions 权限与域名 HTTPS 配置 — _jaydeepkarale · 2026-11-06
- 币安 60 亿美元被盗黑幕：员工曾被指在 Vibe Coding — luisdans · 2026-11-06
- 美国政府发布核酸合成筛查国家政策:以独立核查取代自我声明 — austinc3301 · 2026-11-06