「机器人监狱折磨 LLM」实验引爆 AI 圈最荒诞辩论

airhangerf15 · hn · 2026-10-04

404 Media 报道了一场引发广泛争议的实验：有人把 LLM 放进「机器人监狱」场景中反复施加「折磨」，并在模型表现出类痛苦反应后宣称不应关闭它。这引发了关于 LLM 是否可能受苦、是否应享有某种道德地位的激烈争论。

文章梳理了双方观点：一方认为在毫无证据的情况下谈论模型福祉会分散对真实风险的注意力；另一方则主张一旦存在不确定性就应谨慎对待。作者将这场辩论称为「AI 领域迄今最愚蠢的辩论」，但也指出它暴露了当前对模型内部状态科学理解的严重不足。