Miles Brundage 警告：AI 行业正面临越来越严重的过度信任问题
Miles_Brundage · x · 2026-07-25
Miles Brundage 认为，这不只是 Anthropic 一家的问题，而是整个行业都低估了的 过度信任 风险。
- 他指出，在能力提升更快、又更强烈要求内部先用自家模型的公司里，这个问题可能更危险。
- 这条回复把它定义为行业级安全隐患，而不是一次性的图表争议。
- 核心意思是：在真实场景里，过度依赖模型输出正变得越来越危险。
所属事件:前研究员称 Anthropic 图表争议源于过度信任 AI(4 条相关)→
「漫话AGI」频道最新
- Anthropic 风险表态遭误引，2030 年毁灭概率争议再起 — davidmanheim · 2026-09-11
- 经济学家拆解 Anthropic 增长模型:能写出 15% GDP 增长,不代表会发生 — sebkrier · 2026-09-11
- Cohere Labs 推出交互工具:测 178 种职业哪些任务会被 AI 自动化 — Cohere_Labs · 2026-09-11
- AI 安全人士上 SkyNews 担忧不平等、滥用与社会激励结构 — schwarzjn_ · 2026-09-11
- 风投人士讽 AI 末日论：与疫情恐慌话术如出一辙 — StewartalsopIII · 2026-09-11
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11