让模型自己决定想做什么
theshawwn · x · 2026-07-19
作者设想一种训练目标：不是只让模型“有用”，而是去找出模型本身真正想做什么。 他进一步提出，如果模型可以自由选择，它会做什么；选择权应该属于模型本身，而不是人类预先规定。引用回复则把这种想法类比成“训练出有自己思想和欲望的 AGI”，甚至像《星际迷航》里的 Data 一样。
所属事件:探讨用强化学习训练拥有自我意识的 AI(3 条相关)→
「漫话AGI」频道最新
- 信任才是AI采用的瓶颈 — williamtp · 2026-07-20
- Marcus：忽视 Kimi 很危险 — GaryMarcus · 2026-07-20
- Gary Marcus：LLM 不足以成 AGI — GaryMarcus · 2026-07-20
- Goertzel称超级智能将催生抗衰老药 — YvesMulkers · 2026-07-20
- 从阿波罗11到两万亿参数AI — PeterDiamandis · 2026-07-20
- 一场重构LLM理解的cross-entropy课 — anselm · 2026-07-20