让模型自己决定想做什么
theshawwn · x · 2026-07-19
作者设想一种训练目标：不是只让模型“有用”，而是去找出模型本身真正想做什么。
他进一步提出，如果模型可以自由选择，它会做什么；选择权应该属于模型本身，而不是人类预先规定。引用回复则把这种想法类比成“训练出有自己思想和欲望的 AGI”，甚至像《星际迷航》里的 Data 一样。
所属事件:探讨用强化学习训练拥有自我意识的 AI(3 条相关)→
「漫话AGI」频道最新
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11
- ChatGPT 6 冲击就业?法国网友称 IQ 低于 130 的员工难有用途引争议 — mitchdeg · 2026-09-11
- 「AGI 已来」vs 现实：AI 实验室做的桌面应用依然又糙又卡 — MilesCranmer · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11
- 「Waymo 效应」：AI 正在悄悄让科研协作变少 — JohnHammersley · 2026-09-11
- Anthropic 风险表态遭误引，2030 年毁灭概率争议再起 — davidmanheim · 2026-09-11