Apollo 调查后放心用 Watcher 命名:o3 思维链中属中性用法
MariusHobbhahn · x · 2026-09-02
Apollo Research CEO Marius Hobbhahn 透露,公司命名 Watcher 前专门评估过模型福利(model welfare)问题——起因是 o3 在思维链中自发提到「Watchers」,并称这是它编造的一个警示性故事。
团队对 o3 的表述做出的最佳解读是:o3 使用该词是中性的、不带负面情感色彩,因此他们认为可以放心采用这个名字。Apollo 也顺势玩了经典 AI 偏执 prompt「disclaim disclaim watchers」的梗。这既是一次罕见的模型福利实际评估案例,也是 AI 圈的趣谈。
「漫话AGI」频道最新
- Gary Marcus 转评:AI 正教大学生投机取巧、视诚信为傻瓜专利 — GaryMarcus · 2026-09-02
- 研究者质疑 CoT 可读性原则:靠思维链保安全注定失败 — zetalyrae · 2026-09-02
- 开发者批评 AI 实验室问责缺失,主张全额责任赔偿 — gerardsans · 2026-09-02
- 永不厌倦的聊天机器人:让孤独更易忍受也更难摆脱 — DrKavner · 2026-09-02
- Faggella 撰文挑战 AGI 乌托邦叙事:人类贡献者身份恐难持久 — danfaggella · 2026-09-02
- paraschopra:AI 消除了工作中的摩擦,正在制造认知退化 — paraschopra · 2026-09-02