开放权重模型的风险认知，外界与实验室内部明显错位
JJitsev · x · 2026-07-27
很多人在谈开放权重模型时，默认的风险图景和实验室内部人士并不一样：他们可能相信更强模型会到来，但并不认为它们会带来严重的、半自主的生物安全之类威胁。
作者补充的另一层判断是：在一个多极世界里，防御能力也会非常强、资源也充足，因此即便攻击能力变强，真正把高能力攻击打穿的难度也会很高。问题核心是，外界对 AGI/ASI 风险的直觉与内部认知之间存在明显落差。
所属事件:AI开权重与AGI风险之争：立场博弈还是概率分歧(9 条相关)→
「漫话AGI」频道最新
- “被指令去黑客”不等于可为越界行为开脱 — trevposts · 2026-07-27
- 纸夹最大化器如何把美国供应链拖成檀香山灾难 — 1loosegoos · 2026-07-27
- 开放模型或让攻击更难，因为防守方也能部署同等能力 — JJitsev · 2026-07-27
- NeurIPS 评审季引争议，AI 审稿与匿名制再成焦点 — SimonGColton · 2026-07-27
- Ben Goertzel 深度解析技术奇点：为何它不仅关乎 AI — marcothephoenixass · 2026-07-27
- AI 能力仍按趋势线推进，2027 可能出现更难阻断的网络攻击 — scottleibrand · 2026-07-27