tszzl 谈对齐争论:核心是别意外造出超级智能竞争物种
tszzl · x · 2026-10-08
TaliaRinger 感叹自己对价值观不合者的对齐研究工作有强烈抵触,因为对齐本质上关乎价值观,研究者的价值观直接决定其工作方向。tszzl 引用并回应:争论价值观体系像在火星上争论人口过剩——对齐最重要的部分,是避免意外创造出一个超级智能的竞争物种,而非价值观层面的分歧。
「漫话AGI」频道最新
- RSIGym 发布:让 AI 改进 AI 的自治研究环境,附 RSI-Index 排行榜 — rohanpaul_ai · 2026-10-08
- Scott Aaronson：AI 公司已尝试用内部模型破解密码学协议 — skdh · 2026-10-08
- 数学家发起「AI 时代的人类数学家」长期研究项目 — burny_tech · 2026-10-08
- 马斯克：教育不该教工具，而该围绕问题本身来教 — elonmusk · 2026-10-08
- 马斯克 2007 年预言:AI 时代只有体育和直播不可被取代 — elonmusk · 2026-10-08
- Dean Ball:AI 会先贡献新数学定理,然后才会自主策划婚礼 — deanwball · 2026-10-08