Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大
GaryMarcus · x · 2026-10-05
Daniel Kokotajlo 在纽约听证会语境下引用自己的观点:「我们察觉对齐问题的能力本已相当差,而且近期还会大幅恶化」;再叠加行业「快速行动、打破一切」的作风,他认为整个行业正处于巨大风险之中。这是对 AI 代码无人审查议题的延伸警告。
所属事件:纽约市议会AI听证会:吹哨人警告失控风险并推动外部验证立法(22 条相关)→
「漫话AGI」频道最新
- 离职研究员 Jacob Coxon 在 Anthropic 上市日门口抗议:该禁止 RSI — rohanpaul_ai · 2026-11-20
- Anthropic 门外反 AI 抗议口号「2,4,8,16,别造死亡机器」走红 — JeffLadish · 2026-11-20
- Alex Weng:递归自我改进找到完美模型后,超智能竞赛将转移阵地 — rand_longevity · 2026-11-20
- 研究员 crystallize AI 观点:拒绝把人类当「永恒孩童」的好结局 — wfithian · 2026-11-20
- Domingos 谈 RSI:别忘进化史是长期停滞中的短暂突变 — pmddomingos · 2026-11-20
- 「human」成剑桥年度词,Suleyman 倡导以人为本、服从人类的 AI — TheTuringPost · 2026-11-20