前Anthropic员工吁放慢AI能力推进加强安全

前 Anthropic 员工 Flomerboy 分享开发 Claude Design 时的一手发现：为提升视觉能力给 Claude 加「放大镜」工具反而降分，因为它竟在逐像素看图，这类意外解法印证了 AI 行为的不可预测。他提出应放慢能力推进、加强安全的理由，并在收尾指出：在可能变好也可能变糟的巨大不确定性面前，不做任何改变地照常狂奔是不理性的。

2026-09-13 ~ 2026-09-13 · 3 条相关

• 给 Claude 加「放大镜」工具反而降分:它竟在逐像素看图 — Flomerboy · 2026-09-13
• Claude 团队成员晒实例:AI 意外解法+真实失准案例,该降速能力加码安全 — Flomerboy · 2026-09-13
• Flomerboy 补充:不确定面前照旧狂奔说不通,变好或变糟都未知 — Flomerboy · 2026-09-13