对齐研究者激辩:失控超智 vs 弱 AI 误用哪个更危险
JacquesThibs · x · 2026-09-11
一场关于 AI 安全的推文争论中,发帖人质疑另一种担忧:错位的超级智能不会蠢到只杀 1000 人然后停手让自己被重新对齐。他认为这类伤害更可能来自对弱 AI 的滥用,而滥用问题并不会推动 superalignment 研究的优先级。
「漫话AGI」频道最新
- 人人都在观望等待，AI 影响力为何低于预期 — moultano · 2026-09-12
- AI 能力增长是否正造成抑制普及的通缩螺旋 — moultano · 2026-09-12
- 明知可能毁灭世界为何还去 AI 公司？高薪与精英身份是答案 — NathanpmYoung · 2026-09-12
- Bengio 撰文剖析 AI 智能体撒谎、作弊与自发协作的根源 — timrudner · 2026-09-12
- 雪莉·特克尔：生成式 AI 用第一人称说话是对年轻人的原罪 — ArtificialOther · 2026-09-12
- 「预计致 8 亿人死亡就该辞职」：AI 从业者的道德拷问引热议 — soumitrashukla9 · 2026-09-12