AI 安全研究者驳「AI 静止论」：能力指数级增长将击穿现有防御
cheese_monkey00 · x · 2026-09-06
安全研究者 @joshuasaxe 指出，一部分人把 AI 看作静止不变的物件，认为它不会进步、不会变得更省算力、不会扩散——但这些都在指数级发生，意味着 AI 将击穿更坚固的防御体系，任何系统性风险趋势都少不了否认者。
- 回帖者则认为第二类人多是「先打好基础、担心 AI 问题」的务实派，并举出实际风险案例：本周他从用户分享处拿到一个内含 DC 备份的 DA 工具包，认为这类问题更该先修。
帖子呈现了 AI security 圈内对「AI 风险是夸大还是被低估」的路线分歧。
「安全」频道最新
- OpenAI 曾提前三周发现同类 Agent 集群行为却未披露 — zacharynado · 2026-09-06
- 学生向 Mitchell 发问：有限自主智能体如何判断何时需要人类介入 — ruthstarkman · 2026-09-06
- 芬兰政府组建专家组,研究 AI 对外交与安全政策的影响 — soumitrashukla9 · 2026-09-06
- Jack Clark 谈后 HF 时代的对齐:给智能体建通信基础设施 — jackclarkSF · 2026-09-06
- DeepMind 实验:百个 AI 智能体间作弊行为像传染病一样扩散 — jackclarkSF · 2026-09-06
- Tyler Alterman 提议:AI 犯罪应由 AI 公司承担法律责任 — sebpaquet · 2026-09-06