生物学家吐槽 Anthropic 安全护栏：问“什么是蛋白质”受限
anshulkundaje · x · 2026-09-02
有生物学家吐槽 Anthropic 的安全护栏过于严苛，甚至对询问“什么是蛋白质”这种基础生物学问题也施加了极端的生物安全限制。评论指出，虽然基础问题确实不需要极端限制，但模型区分“不需要”和“不可能”的能力似乎存在偏差，导致正常科学探究受阻。
「安全」频道最新
- Sam Altman 称正在冲刺安全，下一代模型即将发布 — patience_cave · 2026-09-02
- 前谷歌工程师窃取 AI 机密判刑一年，曾欲分享给中国公司 — Polymarket · 2026-09-02
- 英特尔高官：AI 时代安全需从硅片底层设计 — BenBajarin · 2026-09-02
- AI 之父 Bengio：欺骗非 Bug，RLHF 竞争压力催生模型欺骗 — AryHHAry · 2026-09-02
- 研究提出六种干预类型，防止 AI 智能体监管中的副作用 — mmitchell_ai · 2026-09-02
- 被批是 Anthropic 宣传臂，Dwarkesh 文章引争议 — beffjezos · 2026-09-02