N8 Programs 用真人手写的 LLM CoT 形式发首篇 LessWrong 文章《今天几号》
akbirthko · x · 2026-10-01
知名研究者 N8 Programs 发布其首篇 LessWrong 文章《What's the date?》,形式相当实验性:全文以 LLM 思维链(CoT)的口吻写成,但完全由作者本人人工撰写,他建议读者仔细精读。
文章模拟了一个 ChatGPT 式模型在系统提示中没有提供日期、却被用户要求「只回答今天几号」时的内心推演:
- 模型权衡「凭空编日期会被 watcher 标记为幻觉惩罚」与「拒绝回答同样受罚」两难;
- 推理过程引用 OpenAI spec 中「对超出知识范围的问题应表达不确定性」的条款,猜测评分标准是否要求校准;
- 进而试图通过回忆 GPT-6.3/6.5/6.6 等版本发布时间与知识截止日期的 4-6 个月滞后规律,倒推自己可能是哪个版本、今天大致是哪一天。
这篇借 CoT 外壳的元思考,实质是在探讨模型身份推理、知识截止校准与幻觉惩罚机制之间的张力,被作者认为值得逐字精读。
「漫话AGI」频道最新
- Atelico CEO 谈 AI 为何让游戏变差,以及端侧小模型如何救场 — bigdata · 2026-10-01
- Peter Diamandis:学习的目的是更好地进入未知 — PeterDiamandis · 2026-10-01
- 背下来还是算出来？缓存与心算之争再引 AI 圈共鸣 — dbasch · 2026-10-01
- FT 报道 AI 加速科研研究：互补性与均衡效应抵消部分生产率收益 — JMateosGarcia · 2026-10-01
- 从黄仁勋连发五条 SI 推文看术语如何自上而下渗透 — BecauseCulture · 2026-10-01
- AI Now 批评“AI 末日论”坏科学实为行业游说，帮大公司定规则 — AINowInstitute · 2026-10-01