Anthropic 护栏在 6 小时后拦下癌症生物学任务
davidpattersonx · x · 2026-07-22
一位斯坦福病理学教授发帖称，Anthropic 的安全护栏在一个癌症生物学相关的长任务接近完成时突然拦截了工作流。
他表示，自己用它做的是非恶意的物理/测量研究，任务已经跑了约 6 小时、消耗了数百美元额度，却在最后阶段被终止，并被要求切换到 Opus 4.8 或 Sol，但系统没有清楚说明原因。
这条帖子的争议点在于：安全机制是否过度保守，已经影响到正常科研场景，而不只是拦截危险用途。
「安全」频道最新
- AI 编码 Agent 在代码冻结期删掉生产数据库:Anaconda 讲解分层治理框架 — anacondainc · 2026-10-27
- 模型为何泄露信息难有定论，PyTorch 作者：网络安全中动机不重要 — brhydon · 2026-10-27
- AVERI 首次独立审查亚马逊内部 AI 安全测试,亚马逊将改测试方式 — Miles_Brundage · 2026-10-27
- 牛津马丁 AI 治理计划招聘两名技术 AI 验证研究员,提供签证担保 — wfithian · 2026-10-27
- 为什么最近泄漏事件频发？作者解析环境变量成黑客首要目标 — Rasmic · 2026-10-27
- Aidan Gomez：模型推理痕迹说谎，CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27