所谓 Pacing 不是现在停,而是在递归改进前急刹车
peterwildeford · x · 2026-08-20
作者澄清 'Pacing' 的定义:不是现在停止 AI 发展,而是在未来的高速发展中,于递归自我改进(RSI)这一最可能失控的节点之前减速。建议分三个阶段推进:临时协议以换取时间达成更好协议、类似条约的持久协议、最终实现安全超级智能。
「安全」频道最新
- 学者反思强化学习:擅长设限却不利于培养长期能力 — sethlazar · 2026-08-20
- 观点:将 STS 研究重包装为技术 AI 安全以适应当前资金环境 — evijit · 2026-08-20
- 英国影院因盗版激增禁用 Meta 等智能眼镜 — Polymarket · 2026-08-20
- 经济学家提议对 AI 征税,作者痛批此举将毁掉印度 AI 未来 — taherdhanera · 2026-08-20
- AI 安全研究员:安全市场或被严重低估 — MariusHobbhahn · 2026-08-20
- AI Control 比对齐更实用:CSET 发布安全部署智能体入门 — hlntnr · 2026-08-20