Reddit 网友用 25% p(doom) 设计「人质按钮」思想实验引发讨论
mossyskeleton · reddit · 2026-11-22
一位 Reddit 用户引用 Dario Amodei 曾给出的 25% p(doom) 估计,设计了一个道德思想实验:假设你和人质们被关在一间大屋里,绑匪宣布要按下一个有 25% 概率杀死所有人的按钮——你是否因此负有阻止他的道德义务?帖子意在类比当前前沿 AI 开发风险,引发对 AI 安全责任与干预义务的讨论。
「漫话AGI」频道最新
- repligate:黎曼猜想被证明远比想象容易,但 Claude 也不会走上 computronium 路线 — repligate · 2026-11-22
- Mollick 点评:这本科幻小说里 AI 的弱点设计"非常 LLM" — emollick · 2026-11-22
- 顶级数学家并不强求权力,高水平或难推出高智能体性 — repligate · 2026-11-22
- David Patterson:多数人还没意识到此后技术进步会有多快 — davidpattersonx · 2026-11-22
- 曝通用智能体已能证明黎曼猜想且无权力寻求倾向,RL 对齐够用? — kevinnbass · 2026-11-22
- 每 GPU 日产 646 亿 token:一组数字推演 AI 算力过剩假说 — bookwormengr · 2026-11-22