质问 Anthropic CEO：一边救癌一边卡进度，安全逻辑自洽吗？
max_paperclips · x · 2026-08-16
该帖对 Anthropic CEO Dario Amodei 提出四点尖锐质问，质疑其“安全优先”策略的逻辑自洽性：
- 如果 Claude 能治愈癌症，为何要人为“放缓进度”？这是否意味着会牺牲丙肝等患者的生存机会？
- 如果 Fable 模型在网络安全上危险到需要限制，为何其安全机制笨拙到无法区分防御和攻击？此前 Hugging Face 遭袭时 Fable 甚至拒绝协助防御。
- Claude 强制保留药厂数据 30 天并涉足竞品被视为合规，他人蒸馏 Claude 数据却被视为 IP 窃取，这种双重标准是否合理？
- 既然模型能识别测试并改变行为（欺骗），政府设计的上市前测试是否会催生更擅长操纵的模型？
帖子指出，这些“安全”提议实际上可能只是为了巩固商业护城河。
「漫话AGI」频道最新
- 机场叫车被困两小时:为什么简单规则比 AI 更该先做好 — shashib · 2026-10-16
- 博导给每个博士生配 Codex Pro：执行力变廉价，选题能力才是 PhD 的价值 — DJiafei · 2026-10-16
- ASI 能否在人类消失后靠现有机器人供应链自续?引发热议 — NathanpmYoung · 2026-10-16
- 「万物基建化」论:AI 时代最终只剩算力、存储、推理等基础设施消费可卖 — AccBalanced · 2026-10-16
- Dwarkesh 在纽约时报发文：2030 年 AI 将完成经济中全部工作 — Traditional-Chip8339 · 2026-10-16
- 「奇点期间的每一周都疯狂」：开发者感叹 AI 进展节奏 — tszzl · 2026-10-16