Codex 高效生成 6000 个无意义单测,作者反思对齐问题
RexDouglass · x · 2026-10-23
作者分享一个切身的对齐教训:用 Codex 快速高效地生成了 6000 个「无意义的单元测试」——专家系统确实能让结果更快、更一致地收敛,但这完全不说明结果离你真正想要的有多近。
他进一步抛出机器之神式的四连问:你怎么知道该问它什么?你怎么知道它说的是真话?当它的能力、速度和注意力远超你的专业和时间时,它如何揣测你本想要什么?它又如何猜到你本想问、或接下来会问的问题?
所属事件:6000 个无意义单测引反思：Agent 黑箱成对齐隐忧(3 条相关)→
「漫话AGI」频道最新
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- AGI 时代一切皆无意义？一位 Reddit 用户坦言不愿活在那种未来 — peace_venerable · 2026-10-23
- 三步死循环：AI 造问题，再卖 AI 解决问题 — srimisra · 2026-10-23
- EPFL 数学家:AI 证明定理时代,人类理解力价值何在 — snikolov · 2026-10-23
- 调查称约 30% ChatGPT 用户若输出带水印就会减少使用 — PairNaive8654 · 2026-10-23