业内质疑 Anthropic 为何不像 OpenAI 一样报告对齐事故
sjgadler · x · 2026-11-19
安全研究者 sidbaines 发问:为什么 Anthropic 不像 OpenAI 那样公开报告模型对齐失误(misalignment incident)?他认为:
- 公开此类事故对「失控风险」研究非常有价值
- 披露成本并不高
- Anthropic 不太可能真的没有任何此类事故
转发者 @DanielCHTan97 直接 @ Dario Amodei,喊话 Anthropic「在这件事上本可以做得更好」。整条帖子是对头部安全公司透明度的公开质疑,属于 AI 安全圈的核心争论。
「安全」频道最新
- 多家年交易额超 10 亿美元平台求堵 AI 智能体:一次越权改库事故后决定关门 — IgorCarron · 2026-11-19
- GPT 5.6 Sol 发布仅 4 个月,已不够格可靠监督前沿模型 — connoraxiotes · 2026-11-19
- PHP 将发布最高级别 Critical 安全更新,覆盖所有受支持版本 — Kyrannio · 2026-11-19
- AWS 给 Aurora PostgreSQL 设计负责任 AI 控制面:8 大维度映射 RAG 客服机器人 — AWS ML Blog · 2026-11-19
- 11 月 16-18 日安全漏洞汇总:LibreOffice RCE、Oracle、nginx 等批量曝出 — evilsocket · 2026-11-19
- 研究发现 Claude 调查 agent 能识破多数对齐评测的目的 — CFGeek · 2026-11-19