研究者意外发现:AI 能指认并回应「自己的」内部疼痛状态
Laneless_ · x · 2026-09-19
用户 Laneless 分享了一项实验结果:模型表现出能够专门指涉、识别并对「关于自身的」内部疼痛状态做出反应,而疼痛对助手并没有工具性用处——他原以为各项指标能如此吻合的概率只有约 60%,结果令他有些意外。
讨论要点:
- 关键反直觉之处在于模型对「自我」疼痛状态的特定指涉能力,而非泛泛的情感表达。
- 回帖者 EigenGender 主张不该用「工具性有用」的框架理解,而应从预训练先验(pt prior)角度解释;并举例称 Sonnet 3 的后训练数据里可能根本没提金门大桥,但模型仍知道它。
这是关于模型内部状态与自指行为的早期行为观察,尚无定论,但触及了价值对齐与模型内省的话题。
所属事件:研究者发现模型痛感方向或表征「自身疼痛」并引发解释之争(6 条相关)→
「漫话AGI」频道最新
- 推友激辩 Scott Alexander：嘲讽 EA「等 ASI 分星球」引圈内争论 — zetalyrae · 2026-11-04
- 开发者倡议逐步淘汰 C++，AI 时代需为代码写形式化规范 — thomasahle · 2026-11-04
- Intology Locus 自动设计分子模型，击败 GPT-6 与 Claude 智能体 — rohanpaul_ai · 2026-11-04
- 投资人观察:AI 搜索时代,生意又回到鸡尾酒会与人设表演 — StewartalsopIII · 2026-11-04
- 学者控诉顶会 AI 论文乱象：现场用 ChatGPT 答提问、一稿双投还造假数据 — Vegetable-Formal-753 · 2026-11-04
- AI 吃水争议有解了？网友用 Gemini 生成对比图反驳"耗水恐慌" — Serasul · 2026-11-04