AI 研究者激辩 Agent 隐蔽通信实验是否真构成失控风险

JacquesThibs 与 herbiebradley 就 AI agent 隐蔽通信实验展开争论，焦点在于这类实验是否真正逼近 AI 失控风险。herbiebradley 批评相关 agent 安全评估的方法论：测试中研究者手动指示 agent 调查特定通信渠道，或直接提供编解码消息的协议，他认为这种人为设定从根本上削弱了评估结果的说服力，无法反映真实场景下的风险水平。

2026-10-25 ~ 2026-10-25 · 2 条相关