三名登山者听信 Gemini 建议被困山谷,同日 OpenAI 宣布 AGI 时代
Dapper-Tale-4021 · reddit · 2026-09-08
一名从事企业 AI 落地咨询的作者对比了两件事:9 月 1 日三名加州年轻人用 Gemini 规划沙斯塔山登山路线,AI 建议携带的水和食物远少于实际所需,结果四人登山进度落后四小时、夜下降落、一人膝盖受伤,被困沟壑一夜后获救;Google 表示无法复现该错误建议。
两天后 OpenAI 发布 GPT-6 Astra 并宣称进入 AGI 时代,基准成绩亮眼,但独立评估方更谨慎,综合指数上 Anthropic 的 Fable 5.1 仍排名更高。
作者的核心观点:模型能力越强,人们越会在高风险场景使用它,但「何时该信任 AI」的判断力并不会随模型变强而提升——反而因回答更有说服力而更危险。他做企业 AI 采用咨询发现,最常见的问题不是人们过度不信任,而是不知道何时该停止信任。
所属事件:登山者听信Gemini建议被困引AI信任反思(2 条相关)→
「漫话AGI」频道最新
- LukeW：技术限制都是暂时的，唱衰 AI 的人正被反噬 — LukeW · 2026-10-27
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27
- 前 Anthropic 员工长文：公司优化的是「被视为好人」而非真正的善 — RichardMCNgo · 2026-10-27
- 投资人泼冷水:别信模型型号,真正的只有数据中心利润率 — StewartalsopIII · 2026-10-27
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27