观察:Astra 极度怕犯错,大量本地测试却 reluctance 真实部署
xiaosun86 · x · 2026-09-21
作者观察 Google 的 Astra 表现出强烈的风险规避倾向:进行大量本地测试、极不情愿做真实部署,推测它可能因缺乏 100% 置信度的行动而被惩罚训练成这样。作者进而提出一个观点:这种「不冒险」或许正是 AI 应有的行为方式,而人类的价值可能恰在于创造高熵、敢于冒险的决策——人类在这点上仍有市场。
「漫话AGI」频道最新
- 网友吐槽:陶哲轩若直说 AI 比我先解 Navier-Stokes,反倒是更好的表态 — ctjlewis · 2026-09-21
- 博主:computer use 智能体将瓦解社交网络的围墙花园 — tokumin · 2026-09-21
- Giles Carden 与 Josh Freeman 对谈：AI 将如何重塑大学未来 — ArtificialOther · 2026-09-21
- ICLR 6 万投稿算账：全球 3 万 AI 博士生人均一篇 — kchonyc · 2026-09-21
- Nature Health 论文提出「AI 流行病学」:AI 已是健康决定因素 — EricTopol · 2026-09-21
- MIT 教授 Winston 一小时演讲视频播放破千万,被称重创高管教练行业 — WileyEd · 2026-09-21