Gary Marcus 附议:只谈 AI 灭绝风险会让人丧命,安全投入被对齐挤占
GaryMarcus · x · 2026-09-18
Gary Marcus 引用并认同 Zack Korman 的观点:行业对 AI 灭绝风险的关注正在造成实际的安全隐患。
- AI 实验室员工强调安全工作之难,但结论往往是「安全不会奏效,只有对齐才行」,导致安全投入被系统性低估
- 这种倾向已经带来现实事故,例如 Hugging Face 平台的安全事件
作者认为,把全部赌注押在对齐上而忽视传统安全防护,是比「AI 导致人类灭绝」更紧迫的风险。
「漫话AGI」频道最新
- ASI 视觉攻击之争：「捕食者没进化出此漏洞」为何不构成安全论据 — basedjensen · 2026-09-18
- banteg 转引长文批 AI safety 圈:长期主义道德数学是自大妄想 — banteg · 2026-09-18
- 论文分析 AI 如何冲击大学，提出 10 项自救方案 — LuizaJarovsky · 2026-09-18
- 论文《AI 之后的大学》：拆分认证与教学，大学须重构十大职能 — LuizaJarovsky · 2026-09-18
- banteg:长期主义道德数学经不起普通贴现率检验 — banteg · 2026-09-18
- Ben Recht 撰文反思「AI 公司对数学的征服」与纯数学的应用价值 — beenwrekt · 2026-09-18