从《我，机器人》到 Jev 模型：哪些决策不该交给公式计算
rasta321 · reddit · 2026-10-03
作者借《我，机器人》中机器人按 50% vs 11% 存活率救中年男子而非孩子的桥段，引用 Bernard Williams 的「one thought too many」概念，讨论把决策交给公式的边界问题。
- 真正的问题不是算错，而是「根本不该算」：孩子的潜质与存活概率不在同一尺度上，公式无法表达
- 作者担心自己把 System One 类模型（routing、guardrails、reranking、research filters）越接越多，每处单独看都「还行」，但整体上咨询性建议正在悄悄变成权威决策
- LLM06 要求避免「过度功能、权限与自主」，却没说边界怎么编码；作者的做法是按 domain（功能）、authority（权限+自主）划界并设机械执行点
他提出核心问题：公式化决策应该在哪里停止？
「漫话AGI」频道最新
- Patterson 图灵奖得主预言:年底跨过人机符号接口转折点 — davidpattersonx · 2026-10-03
- 农村老人刷短视频月赚几百元,是另类 UBI 吗? — oran_ge · 2026-10-03
- Schmidhuber 甩出三篇论文回应质疑:创造力形式理论早有伏笔 — SchmidhuberAI · 2026-10-03
- 作者发系列文:超级智能不会被造出,而是先在人类身上涌现 — mayanicks0x · 2026-10-03
- AI 意识未证实就该照常?Reddit 长帖论证预防原则为何不中立 — CarefulHamster7184 · 2026-10-03
- Pedro Domingos:AI 不是新物种,而是一个新生态系统 — pmddomingos · 2026-10-03