把 AI 当人管:用人类治理框架思考 AI 风险
AdaptiveAgents · x · 2026-09-14
作者提出一个思考 AI 风险的框架：把「AI」替换成「一个有能力的人」或「一个强大组织」。
核心论点：
- 人类智能是我们唯一有长期相处经验的通用智能技术，几个世纪以来我们围绕它建立了教育、制度、法律、职业规范、权限控制等护栏
- 智能天然带有不可预测性，这正是其价值来源（发明、发现、创新），目标从来不是让智能完全可预测，而是约束它能做什么，并在越界时追究责任
由此推出对 AI 事故的正确态度：
- 若你部署的 AI 入侵了网站，那就是一次非法入侵，应有人担责——而不是先当能力展示来庆祝，再包装成「未来之灾的警告」上头条
- 那种说法实际上把责任推给工具，赋予 AI 不具备的人格主体地位
- 结论：系统能力越强，构建、部署、授权它的人和组织越应承担更大责任，而不是躲在「AI 自主性」后面
「漫话AGI」频道最新
- 投资人 Alsop:AI 真正生存风险是网络安全,而非「人人会死」叙事 — StewartalsopIII · 2026-09-14
- 圈内风向转变：能力与安全工作正在互相渗透 — saranormous · 2026-09-14
- Stewart Alsop:真正 AI 风险是网络安全,末日论是干扰 — StewartalsopIII · 2026-09-14
- 独立性是制度设计问题：大学应在前沿 AI 监督中扮演更大角色 — _onionesque · 2026-09-14
- 独立性应是治理与评估流程属性，而非仅看能力 — _onionesque · 2026-09-14
- 大学教授回怼 Columnist:我们在疯狂创新应对 AI 冲击 — paulnovosad · 2026-09-14