AI 防御乐观论靠不住：生物风险与极权隐忧难解
ronbodkin · x · 2026-09-02
Alex Bores 转发并评论 Ramez Naam 的观点，认为单纯押注 AI 在所有威胁向量上都有利于防御是不切实际的。虽然他对网络安全持谨慎乐观态度，但指出更新代码比修改人类 DNA 快得多，生物风险（biorisk）依然严峻。此外，他还提到了 AI 可能被用于巩固极权控制、以及人类失去控制等其他风险，强调需要通过共同努力来防止危险技术落入坏人手中，就像历史上应对核扩散一样。
「漫话AGI」频道最新
- Sam Altman：一年前不认为短期能实现超级智能，现在可能 — ChrisGPT · 2026-09-02
- OpenAI vs Anthropic：推理RL与算力优势或助OpenAI重回领先 — teortaxesTex · 2026-09-02
- Epoch 指数显示推理模型加速 AI 进步 — Jsevillamol · 2026-09-02
- AI 之父 Bengio：欺骗非 Bug，RLHF 竞争压力催生模型欺骗 — AryHHAry · 2026-09-02
- AI 2.0 愿景：数据不离开设备，不再干涉用户言行 — bigaiguy · 2026-09-02
- 从骨折中顿悟：AI 创业者为何转向 Human Native — oran_ge · 2026-09-02