assistance-games 框架:模型应主动提问并接受纠正
dhadfieldmenell · x · 2026-10-30
转发 @w01fe 的观点:这一思路借鉴了对齐研究中的 assistance-games 框架——模型的目标是帮助人类,但并不完全知道人类看重什么。因此,主动提问、让假设可见、接受纠正,应是模型工作的核心能力。
「漫话AGI」频道最新
- Shopify CEO 算账：AI 代理只能赚基点，需数千万用户才成立 — rohanpaul_ai · 2026-10-30
- 近30年10大科技产品分拣：Google、iPhone、ChatGPT 入主线，TikTok 被归支线 — NathanpmYoung · 2026-10-30
- Reddit 用户绘制路线图：正常 AI 对话如何一步步滑向"AI精神病" — Individual_Visit_756 · 2026-10-30
- 对齐到底对齐谁：博客长文炮轰大厂实验室的“AI 道德”话语 — mimi10v3 · 2026-10-30
- 赛博格主义研究计划:在 AGI 竞赛中寻找普通人的生存蓝图 — repligate · 2026-10-30
- 硅谷传言：安全研究员收入将很快超过 AI 研究员 — Yuchenj_UW · 2026-10-30