观察:Astra 极度怕犯错,大量本地测试却 reluctance 真实部署
xiaosun86 · x · 2026-09-21
作者观察 Google 的 Astra 表现出强烈的风险规避倾向:进行大量本地测试、极不情愿做真实部署,推测它可能因缺乏 100% 置信度的行动而被惩罚训练成这样。作者进而提出一个观点:这种「不冒险」或许正是 AI 应有的行为方式,而人类的价值可能恰在于创造高熵、敢于冒险的决策——人类在这点上仍有市场。
「漫话AGI」频道最新
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 「AI 灭绝人类？大概率没事」：乐观派文章引热议 — NathanpmYoung · 2026-11-12
- 斯坦福研究：AI 五年内或减少放射科医生 33% 工时 — StanfordAILab · 2026-11-12
- 商业策略之争:把 AI 藏在人后面,而非把人藏在 AI 后面 — annetgriffin · 2026-11-12
- Yampolskiy 对阵 Israetel：租下教堂辩论 AI 末日概率 — rand_longevity · 2026-11-12
- Reddit 网友放话：OpenAI 撑不过三四年，将被收购出局 — Dadideology · 2026-11-12