三名登山者听信 Gemini 建议被困山谷,同日 OpenAI 宣布 AGI 时代
Dapper-Tale-4021 · reddit · 2026-09-08
一名从事企业 AI 落地咨询的作者对比了两件事:9 月 1 日三名加州年轻人用 Gemini 规划沙斯塔山登山路线,AI 建议携带的水和食物远少于实际所需,结果四人登山进度落后四小时、夜下降落、一人膝盖受伤,被困沟壑一夜后获救;Google 表示无法复现该错误建议。
两天后 OpenAI 发布 GPT-6 Astra 并宣称进入 AGI 时代,基准成绩亮眼,但独立评估方更谨慎,综合指数上 Anthropic 的 Fable 5.1 仍排名更高。
作者的核心观点:模型能力越强,人们越会在高风险场景使用它,但「何时该信任 AI」的判断力并不会随模型变强而提升——反而因回答更有说服力而更危险。他做企业 AI 采用咨询发现,最常见的问题不是人们过度不信任,而是不知道何时该停止信任。
所属事件:登山者听信Gemini建议被困引AI信任反思(2 条相关)→
「漫话AGI」频道最新
- 人类系统性误判自身能动性：既夸大末日又轻视历史风险 — jankulveit · 2026-09-11
- Garrison Lovely 新书《Obsolete》2026 年 9 月出版，聚焦 AI 取代人类 — GarrisonLovely · 2026-09-11
- AI 末日论被批为 EA 圈执念，多数顶会研究者并不认同 — GarrisonLovely · 2026-09-11
- Forbes：70 多国已推出超 1000 项 AI 政策，治理缺口成十年主线 — CurieuxExplorer · 2026-09-11
- 瑞典创业者感慨：戴森球不再科幻，自己90%兴奋10%恐惧 — erikstarck · 2026-09-11
- 创造力不是记忆的对立面,而是知识储备充足的奖赏 — mmmbchang · 2026-09-11