AI 福利讨论：dioscuri 称 LLM 意识概率高于零但低于五成
btcmaxi116036 · x · 2026-10-09
在与网友的 AI welfare 讨论中，研究者 dioscuri 给出三个关键回答：
- LLM 有意识的概率：拒绝在公开场合给出具体数字，但表示“高于零、低于 50%”。
- 模型内部状态的可理解性：提到 Jack Lindsey 实验室的相关工作，但坦承目前对这一问题的理解“非常差”。
- 安全 vs 福利的取舍：认为为了全球安全，某些 AI 福利风险“绝对是可以正当化的”，但应尽量将其最小化。
在后续讨论中他还指出，公共辩论常从“LLM 是否有意识”直接跳到“其道德利益与人类相同”，这一步并不成立——比如关闭一个模型实例是否等同于死亡就很不清楚。他推荐了两篇论文：Long、Sebo & Sims 的《AI safety 与 AI welfare 之间是否存在张力》，以及 Salib & Goldstein 的《AI rights for human safety》。