MIT 教授梳理 Amodei 警告史:从 GPT-2 扣发到「狼来了」风险
AjdDavison · x · 2026-09-15
DeepMind 副总裁 Philip Torr 转发 MIT 教授 Dawn Song?——实为 Phillip Torr 本人评论 Dario Amodei 关于可能需要放缓 AI 发展的最新警告,并梳理历史:
- 2019 年 OpenAI 曾因滥用担忧扣发完整版 GPT-2,九个月后未发现多少滥用证据而全量发布
- 2023 年 Amodei 告诉美国参议院开源 AI 正走上"非常危险的道路"
- 如今警告力度大幅升级,其提案(限制能力推进节奏、让独立评估者获得内部访问权)是可讨论、可测试、可改进的具体工具
- 作者认为警告也许是对的,但反复升级警告有风险:若每代 AI 都被描述为潜在灾难级,公众最终会停止倾听,真正极端危险证据出现时反而无人相信
「漫话AGI」频道最新
- 对手实验室公开声援 Anthropic 的 AI 减速提案 — The AI Daily Brief · 2026-09-15
- 前 OpenAI CTO 布罗克曼系研究者：AI 竞赛叙事误导政策，合作才是出路 — GregCook2011 · 2026-09-15
- 坐下来陪教授 vibe coding 一小时，AI 无用论者当场改口 — pwlot · 2026-09-15
- Derek Thompson：前沿派骂战没有无辜者，各方都被意识形态和利益驱动 — deanwball · 2026-09-15
- AI 末日论走入课堂:高中生以「反正快完了」拒写作业 — BraydonDymm · 2026-09-15
- KP 预测：十年内个人 AI 造站数量将千倍于人类，AX 比 UI 更重要 — thisiskp_ · 2026-09-15