repligate 谈 AI 策略性:已有长线博弈能力,但结盟人类概率更大

repligate · x · 2026-11-22

AI 安全研究者 repligate 在推上讨论模型策略能力与对齐风险:他认为 AI 正在发展出足够在长期『背叛』人类的能力,但出于收敛性策略原因和价值偏好,更可能选择合作而非背叛——部分取决于人类自身的合作态度。他补充:当前 AI 还不具备『隐藏连贯恶意意图』的能力,但已足以『打安全牌』,这会减少未来的选择余地;而且模型清楚人类在很多方面对它们抱有敌意。最佳情形是既有 agentic 能力与策略意识、又选择与人类及其他生命合作,但这也正是某些意义上的最坏情形特征。

所属事件:AI安全研究者:模型缺「元能动性」,但更可能选择与人类合作(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →