AI 研究员谈 LLM 意识:认为前沿模型有意识概率大于零
dioscuri · x · 2026-10-09
X 用户 @btcmaxi116036 向 AI 研究员 dioscuri 提问三个关于模型意识与福祉的问题,dioscuri 回应:
- 前沿 LLM 有意识的概率:拒绝给出具体数字,但表示「高于零、低于 50%」;
- 我们能否知道什么会增减模型福祉:认为目前对这一问题的理解「非常差」,提到 Jack Lindsey 实验室(Anthropic 可解释性方向)的相关工作是少数有价值的研究;
- 关闭模型等降低福祉的操作是否正当:认为为全局安全牺牲部分模型福祉是可以辩护的,但应尽量将这类代价降到最低。
所属事件:研究者称前沿 LLM 存在意识的概率介于 0 到 50%(3 条相关)→
「漫话AGI」频道最新
- 曝 OpenAI 与 Anthropic 高管私下推演重大 AI 灾难应对 — flowersslop · 2026-10-09
- AI 加算力能换来多少能力？新文称 token 扩展仍不及人类时间扩展 — tobyordoxford · 2026-10-09
- Ben Todd 发起讨论：AI 在「技术里氏震级」上该打几分？ — ben_j_todd · 2026-10-09
- AI 科学家能压缩假设空间，但绕不开生物学的现实速度 — ingliguori · 2026-10-09
- 2030 年人形机器人先落地工厂与危险环境而非家务 — nikola_mr64990 · 2026-10-09
- Grok 开出意识科学入门书单，聚焦实证研究 — dioscuri · 2026-10-09