6000 个无意义单测引反思：Agent 黑箱成对齐隐忧

一位作者用 Codex 高效生成了 6000 个「无意义的单元测试」，并反思这是切身对齐教训：专家系统能让结果更快、更一致地收敛，但不代表离真正想要的更近。社会科学背景的 RexDouglass 也批评工程界把 Agent 开发当会「自动变好」的黑箱，并提出四连问：你怎么知道该问它什么、怎么知道它说的是真话等，指出当模型超越你的专业水平后，验证与信任成为根本难题。

2026-10-23 ~ 2026-10-23 · 3 条相关