研究者预测机械可解释性监控一年内超越思维链

围绕 AI 监控的讨论认为，"可监控性"是必须保持的不变量，真正的解决方案将通过强大的机械可解释性实现。有作者预测未来一年内将出现帕累托优于思维链监控器的机械可解释性监控方案。另有观点指出，模型进行的任何电路计算本质上都是"神经语言"，且前沿模型的前向传播每隔几个月就在电路计算能力上取得显著进步，该作者声明这并非 OpenAI 对齐团队的官方立场。

2026-09-02 ~ 2026-09-02 · 3 条相关