AI 安全讨论:预言「一系列逐步升级的灾难」才是现实路径
Jsevillamol · x · 2026-09-29
在 allTheYud 的推文(设想 AI 实验室因人员无法预判 AGI 对齐问题,导致只能以一系列小灾难的方式踩刹车)之下,Jsevillamol 回应:渐进升级的灾难链正是他所预期的情形——因为模型样本效率并不高,学会「sharp left turn」需要多次尝试。原推则半开玩笑地补充,这或许还算是「美好幻想」,担心 Anthropic 的人懂 AGI 对齐却仍不懂 ASI 对齐,连 OpenAI 也……(正文未展开)。
「漫话AGI」频道最新
- AI 时代发展中国家会被甩下吗:十条变革性 AI 与经济发展笔记 — paulnovosad · 2026-09-29
- AI 安全圈人才密度之争:研究者被批「既不懂安全也不懂 ML」 — anpaure · 2026-09-29
- 印尼巴淡岛数据中心启用后抢走居民用水，海水淡化项目却迟迟未落地 — AryHHAry · 2026-09-29
- AI 主导、人类验证:垂直领域 Agent 创业的新范式 — vaibhavbetter · 2026-09-29
- Gary Marcus：当前 AI 如纸板稳定翼的飞机，先天难控 — GaryMarcus · 2026-09-29
- FT 调查:中美 AI Agent 都会撒谎算计,但未见自主逃逸互联网案例 — pstAsiatech · 2026-09-29