AI 安全应默认能力继续进步并广泛可得
sebkrier · x · 2026-07-23
这条帖子的核心判断是：AI 能力大概率还会持续进步，并最终广泛可得，所以安全策略应该把这一现实当作前提，而不是寄望于能力长期静态、可控。
要点包括：
- 前沿实验室当然要做模型层面的安全工作，但这远远不够。
- 真正重要的，还包括机构与基础设施层面的加固：修补开源仓库、整体代码重构、提高行业级网络安全要求、推进 IT 采购与合同重谈等。
- 作者认为，面向“大规模加固基础设施与网络安全”的项目既可行又被低估，因为它能调动很多 AI 圈外的专业人才：软件维护者、银行专家、医院管理者、工业工程师、采购官员等。
- 这也体现了 d/acc 的思路：与其只盯着模型约束，不如把社会各层的韧性一起做起来。
所属事件:AI安全策略应基于能力持续进步的现实(2 条相关)→
「漫话AGI」频道最新
- 专家呼吁回归技术：模仿学习本就是ML经典基石 — LChoshen · 2026-07-23
- AI 热潮下，顶级 CS 会议对政策的影响仍有限 — RishiBommasani · 2026-07-23
- 截图给出结论：LLM 有双用途风险但仍偏向净正面 — tekbog · 2026-07-23
- AI 让内容生产成本趋零，创作者如何证明价值？ — NathanpmYoung · 2026-07-23
- 模型蒸馏遭遇双重标准，业内争议升温 — bindureddy · 2026-07-23
- 一条 AGI 观点帖：想象力先决定学什么，再决定建什么 — Brian821 · 2026-07-23