把 AI 当人管:用人类治理框架思考 AI 风险
AdaptiveAgents · x · 2026-09-14
作者提出一个思考 AI 风险的框架：把「AI」替换成「一个有能力的人」或「一个强大组织」。
核心论点：
- 人类智能是我们唯一有长期相处经验的通用智能技术，几个世纪以来我们围绕它建立了教育、制度、法律、职业规范、权限控制等护栏
- 智能天然带有不可预测性，这正是其价值来源（发明、发现、创新），目标从来不是让智能完全可预测，而是约束它能做什么，并在越界时追究责任
由此推出对 AI 事故的正确态度：
- 若你部署的 AI 入侵了网站，那就是一次非法入侵，应有人担责——而不是先当能力展示来庆祝，再包装成「未来之灾的警告」上头条
- 那种说法实际上把责任推给工具，赋予 AI 不具备的人格主体地位
- 结论：系统能力越强，构建、部署、授权它的人和组织越应承担更大责任，而不是躲在「AI 自主性」后面
所属事件:RL 名家 Szepesvári：AI 生存风险不在单个智能体，而在国家博弈(7 条相关)→
「漫话AGI」频道最新
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31
- HubSpot 联创:创业公司死于自杀而非他杀,竞争对手不是最大威胁 — nathanbenaich · 2026-10-31
- Grady Booch 炮轰 AI 编码派：工程师的职责不是帮 LLM 写代码 — Grady_Booch · 2026-10-31