AI 安全研究者:单方面自愿降速被严重低估
vkrakovna · x · 2026-09-08
Andrew Critch 提出,企业单方面、自愿的 AI 降速被严重低估:失去对自身 AI 系统的控制本身就不利于商业,认为「公民责任」与「利润」必然对立是一种虚假二分——两者并非完全一致,但也并非完全冲突。DeepMind 安全研究员 Victoria Krakovna 转发,Geoffrey Irving 则回应指出协调式降速仍优于自愿降速,但感谢强调自愿降速的合理性。
所属事件:AI 安全研究者:单方面自愿降速是被低估的理性选择(2 条相关)→
「漫话AGI」频道最新
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27
- 高盛：美企 AI 采纳率与就业增长呈显著负相关 — ben_j_todd · 2026-10-27
- a16z：改变世界的技术都先「混乱入场」，Agent 正走同样的路 — a16z · 2026-10-27
- 断网也得会看病：NEJM AI 警告医学教育不能丢掉脱离 AI 的基本功 — BraydonDymm · 2026-10-27
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 程序员观点：每次 SOTA 模型发布，都该主动「删掉」部分旧认知 — zack_overflow · 2026-10-27