网友激辩:制造多个自我副本正面操纵模拟预测,类比「普遍先验是恶意的」
jessi_cata · x · 2026-11-21
一场关于 anthropics(人择推理)与 AI 安全的讨论:jessicata 回应 @Trotztd 提出的思路——通过制造大量自我副本来正面操纵「下一个体验的预测」,相当于「成为模拟器本身」。jessicata 指出这类似「universal prior is malign」(普遍先验是恶意的)论证的另一面。Trotztd 则表示不同意该进路,并补充认为即使是 Bostrom 式的「世俗」分析也有缺陷:人类对低于基线的损失极度厌恶,把这个因素算进去会得到一个不同但并非实质更低的数字。讨论还涉及 p(doom) 是否「太银河脑/反派化」等圈内争议。
「漫话AGI」频道最新
- Dario Amodei:Anthropic 刻意以不到一半的速度推进 AI — rohanpaul_ai · 2026-11-21
- Dario:Anthropic 本可全速狂奔,却主动只开一半速度 — rohanpaul_ai · 2026-11-21
- AI 交易等于算力建设时代或终结,效率增益将让市场「很快变怪」 — matt_slotnick · 2026-11-21
- 人类情绪是生物硬件的过时遗留,AI 能否帮人调节情绪 — irinarish · 2026-11-21
- Google 邀传记作家 Isaacson 对谈:AI 时代的创造力与人类判断力 — OnlineInference · 2026-11-21
- Ilya 播客金句:这一切正在发生,简直像科幻小说成真 — willdepue · 2026-11-21