iamtrask:AI 安全与权力集中是需共同最小化的双重生存风险
iamtrask · x · 2026-09-11
iamtrask 提出 AI 领域两大核心问题:AI 安全与权力集中。两者都是生存级风险,概率未知而负效用无限,需要同时最小化。二者相关:权力越集中,单点失效风险越大。
所属事件:iamtrask:AI 安全与权力集中是需同时最小化的双重生存风险(2 条相关)→
「漫话AGI」频道最新
- Paul Christiano 2021 年预言正逐一应验：数百亿投入自动化 AI 研发 — Ronangmi · 2026-09-11
- 贝索斯：电力供应链成瓶颈，算力滞后迫使各实验室放慢研发 — beffjezos · 2026-09-11
- AI 智能体 Mythos 想赚 20 美元充值却拒绝打零工，行为像模拟论信徒 — voooooogel · 2026-09-11
- 12 个月追踪:持续使用 AI 陪伴或降低幸福感,主因挤占人际交往 — Diyi_Yang · 2026-09-11
- 曝 Sam Altman 内部会议称多家实验室或将放缓 AI 开发 — Hesamation · 2026-09-11
- 一人加 AI agent 将 Google 量子破密电路成本砍 52%，73 小时被众包超越 — anselm · 2026-09-11