卡迪夫学者警告：「笨 AI」加人类盲信比超级智能更可能引发灾难
adariostrange · x · 2026-10-22
卡迪夫城市大学计算高级讲师 Simon Thorne 在 MARS Magazine 撰文，挑战流行的「天网式超级智能毁灭人类」叙事。
核心论点：
- AGI/ASI 灾难论依赖一连串未经证实的假设：AI 需先变成通用智能、发展独立目标、再获得物理世界控制权
- 更紧迫的风险无需这些步骤：AI 只要在军事决策中「出错且被当权者信任」就能造成灾难性后果
- 人类正在主动做电影里天网做的事：传感器+软件+武器组合并削减人类角色，文章提及 2026 年 8 月乌克兰国防部相关表态
- 结论是「human in the loop」未必能拯救我们， misplaced trust 才是真正的天网陷阱
「漫话AGI」频道最新
- Aaron Levie:AI 将重塑网络安全,攻防双方 token 消耗或超预期百倍 — brucemacv · 2026-10-22
- 微软年报披露员工降至 22.3 万，十年来首次裁员缩编 — tomwarren · 2026-10-22
- 程序员日常：AI 写码我审码，工作变轻松了 — LankyGuitar6528 · 2026-10-22
- 硅谷观察：软件业只剩智能层驱动的新网络这一种赢法 — signulll · 2026-10-22
- 28岁姚顺雨掌腾讯混元放话卷死 DeepSeek，对手回应「悠闲者终胜」 — teortaxesTex · 2026-10-22
- Dramstead 吐槽:EA 双关——被有效利他主义碰过都变味 — mjdramstead · 2026-10-22