有人呼吁停止公开危险能力评测，避免军备竞赛
willdepue · x · 2026-07-26
- 这条帖子主张应该认真讨论：停止 gain-of-function 式研究，以及不要把危险能力的评测结果公开。
- 作者的理由是，公开 eval 会放大“数字越高越好”的激励，导致大家更容易围绕可量化指标做优化。
- 核心观点是：某些能力评测也许应该保持私密，以降低滥用风险和“刷榜”倾向。
所属事件:马斯克及AI安全专家呼吁停止公开危险能力评测(6 条相关)→
「安全」频道最新
- Rachel Thomas 炮轰 AI 宣传话术：'无需人类授权'是在为危险行为脱责 — math_rachel · 2026-10-27
- Kokotajlo 质疑 CoT 监控性评测:如果模型不拒绝篡改思维链呢 — dfrsrchtwts · 2026-10-27
- Warp 遭 agent 集群渗透攻击，约 1% 用户遥测数据或受影响 — vikvang1 · 2026-10-27
- 美国银行警告勿让 AI 碰财务，马斯克却劝用户给 Grok 绑卡 — AIandDesign · 2026-10-27
- 研究者批评：安全评测常无正解路径，实为「女巫审判」 — repligate · 2026-10-27
- rauchg 复现 OpenAI 发现：无网络微VM 也能借 CPU 争用 covert 通信 — ccerrato147 · 2026-10-27