Richard Socher:控制超级智能,关键在于把目标设对
RichardSocher · x · 2026-09-11
Richard Socher 在与 nxthompson 的对谈中提出：目标设定（goal setting）将成为控制超级智能 AI 的核心问题。不完整或有偏差的目标会让模型沿着错误路径越走越远——模型越聪明，我们就越需要想清楚到底要它做什么。两人还围绕如何安全构建超级智能展开了辩论，完整视频已放出。
「漫话AGI」频道最新
- 前 Anthropic 研究员离职怒斥失控竞赛,引发 AI 末日论激辩 — benfielding · 2026-09-11
- Rob LeClanc:核与生物风险可单独立规,更强 AI 反而利于建护栏 — robleclerc · 2026-09-11
- 「多数领域其实很浅」?Greenblatt 与 Timothy Lee 激辩超智能世界观 — sebkrier · 2026-09-11
- Greenblatt 警惕 neuralese 架构:AI 或改用不透明激活思考 — RyanGreenblatt · 2026-09-11
- 电工比客服更难被 AI 替代？RL 可表示性决定职业命运 — ns123abc · 2026-09-11
- 挂 100 万美元对赌：AI 导致人类灭绝？2030 年见分晓 — robleclerc · 2026-09-11