中国评测初创与 Kokotajlo 切磋 CoT 可监控性

一家中国 AI 安全评测初创公司与前 OpenAI 研究员、《AI 2027》作者 Daniel Kokotajlo 就思维链(CoT)可监控性评测方法展开公开跨国学术交流。Kokotajlo 对相关论文提出关键质疑：论文通过提示模型篡改其 CoT 并关闭推理等手段进行评测，但如果模型本身不拒绝篡改思维链，这种监控方法的有效性如何保障，引发圈内关注。

2026-10-27 ~ 2026-10-27 · 2 条相关