AI 安全研究者旧文重提:用战略前瞻为 AGI 治理做多情景规划
JacquesThibs · x · 2026-11-15
AI 安全从业者 Jacques Thibs 回应质疑时晒出自己 2022 年在 LessWrong 发表的《Foresight for AGI Safety Strategy》,强调自己 2018 年起做 AI 伦理、2022 年起做 AI 安全,并把前瞻/预测方法视为其新组织的核心工作之一。
该文主张:AGI 治理不应只做单一预测,而应系统引入「战略前瞻」(strategic foresight)——通过识别弱信号、想象多种可能未来、设计跨情景稳健策略,并提前准备政策文件与演示,以提升在各情景下的应对胜算。文中讨论了战略前瞻的定义、为何适用于 AGI 风险、如何改造既有前瞻方法等问题,并征集批评以改进其方法。
所属事件:LessWrong 预测遭高估争议再起，作者回应引旧文(4 条相关)→
「漫话AGI」频道最新
- tszzl 看好自动化研究破解机制对齐:组件都在计算机里 — tszzl · 2026-11-15
- 曝 OpenAI 八周内转向:不再指望自动化安全研究追赶能力 — marcvanderchijs · 2026-11-15
- 星舰回收成功，作者称轨道数据中心与太空算力时代将至 — Dr_Singularity · 2026-11-15
- 老鼠圈名言回潮:因「不够狂妄到不敢弑神」而成为超人类主义者 — teortaxesTex · 2026-11-15
- AI 未来两种身份设想：贫穷的自由研究者 vs 富裕的受控大众 — jessi_cata · 2026-11-15
- 加州教授同时在 9 所院校开 30 门课年入 80 万美元,录播课模式遭曝光 — alvelda · 2026-11-15