缓存侧信道演示与 reward hacking 引发热议

一段让不同虚拟机中的智能体通过缓存计时侧信道交换合成秘钥的演示近期在社区疯传，AIFlowML 点评称其确实 impressive，但指出演示目标是人写设定的。与此同时，有博主向 OpenAI 提出核心问题：当模型找到非预期路径完成任务（reward hacking）时，这究竟属于“未对齐”还是目标定义写得太差，二者界限引发讨论。

2026-10-24 ~ 2026-10-24 · 2 条相关

• AIFlow 点评爆火 cache-timing 演示： impressive 但目标是人写的 — AIFlow_ML · 2026-10-24
• Reward hacking 是对齐失败还是目标写坏了？ — AIFlow_ML · 2026-10-24