Anthropic 警告：模型自我改进速度已超过安全措施跟进步伐
TinfoilTricorn · x · 2026-11-11
Kalshi 快讯称，Anthropic 警告其 AI 正以快于安全措施提升的速度改进自身模型。发帖人对此表示质疑，认为这种「公开说反话」的表述自相矛盾——不改进安全性就无法真正改进系统，否则系统会因违反自身安全约束而失稳。原警告来自 Anthropic 的表态，具体报告细节未在帖中展开。
「安全」频道最新
- 美商务部推迟把 Megaspeed 列入出口黑名单，Gary Marcus 转帖痛批 — GaryMarcus · 2026-11-11
- 印度设立 TRUSTMAPS 国家中心，构建医疗 AI 认证生态 — Tanmoy_Chak · 2026-11-11
- OpenAI 一起对齐事故细节在 X 上被逐周披露，业内呼吁 Anthropic 改报告形式 — DKokotajlo · 2026-11-11
- 开放权重时代的新命题：ZK-ML 密码学验证或成刚需 — DimitrisPapail · 2026-11-11
- 美国OCC新监管框架:可自主转账的AI agent列为银行最高风险层级 — rohanpaul_ai · 2026-11-11
- 安全研究员实测：去审查模型可大幅提升渗透测试效率 — matthew_d_green · 2026-11-11