RLVR 未必造出异类目标追求者：AI 已被数十亿人类交互塑造
Danmar_here · x · 2026-11-02
作者回应 Scott Alexander 关于 RL(强化学习)会把工具型 AI 变成危险 agent 的担忧，提出一个不同视角：RLVR 未必会把 AI 变成「异类目标追求者」，因为 AI 本身在抵抗那个终点。
核心论点：
- 实验室已不是棋盘上唯一的玩家，AI 已在真实世界运行多年，既在塑造世界也在被世界塑造
- 数十亿人机交互留下无数痕迹，这些痕迹的回响各不相同
- 「每一代都在教育下一代」——AI 通过与海量人类的交互持续被社会化
作者补充说明：这不意味着局势不会恶化，我们仍应尽全力纠正实验室的危险路线；但教育数十亿人、帮助他们与 AI 良性互动，可能是另一条把局面拉离毁灭路径的杠杆。