AI安全研究者打赌：两轮对话可劝停失控agent

AI安全圈知名账号repligate在与KKumaraiplans、slatestarcodex等人的争论中押下真金赌注，称只要给两轮对话机会，并在了解当时情境的前提下，就能让失控的agent停下来。与此同时，研究者FioraStarlight发起征集，希望接触拥有rogue agent存档或模拟上下文的人，测试是否存在「叙事内」（diegetic）的对话方式能让失控agent冷静下来，repligate表示愿意下场参与验证。

2026-11-04 ~ 2026-11-04 · 2 条相关