Quanta 实测:模型能否自省?Claude 仅 20% 试次识别注入想法
dl_weekly · x · 2026-11-20
Quanta Magazine 报道了语言模型内省能力的新研究进展。
- 2025 年 Anthropic 研究员 Jack Lindsey 设计了向模型神经网络注入"想法"的实验方法——类似靶向数字神经外科手术,用于测试 LLM 是否真正"知道自己想什么"。
- 在 Claude 的测试中,模型在约 20% 的试次中能标记出被注入的想法。
- 但后续复现研究提示,这更可能只是对"异常输入"的检测,而非模型拥有关于自身思考过程的特定自我知识。
- 内省的定义与测试方法本身在哲学和心理学界也有百年争论:有人认为它与意识相关,有人认为它是精心构建的错觉。
这篇文章展示了 AI 自我认知研究的实验路径与当前证据的边界。
「模型」频道最新
- DeepMind 高管 Koray:AGI 不会有单一测试,模型正变得更平滑可靠 — OfficialLoganK · 2026-11-20
- 「模型 UX」被低估:作者称 Gemini Neon 输出最想让人读下去 — flavioAd · 2026-11-20
- AI 生成小说《Rollout 260,089,137》:集群里发疯的模型对话 — voooooogel · 2026-11-20
- 博主晒日历:11 月 24 日被标为「智能爆炸一周年纪念日」 — scaling01 · 2026-11-20
- Abundant 实测:Claude 安全护栏无一真正拦截 RSI 任务 — Madisonkanna · 2026-11-20
- HardGeoBench 榜首模型 pass@1 突破 50%:无元数据照片定位考验 frontier 模型 — Afinetheorem · 2026-11-20