前 OpenAI 研究员警告:「攻击者扩散时滞」窗口可能很快关闭
joshua_saxe · x · 2026-10-25
joshuasaxe 转发 metaviv（2019 年曾在 OpenAI 就 GPT-2 之后的 AI 风险做演讲并撰文）的观点：当前恶意行为者利用 AI 造成重大危害仍存在「攻击者扩散时滞」，但这层保护能维持多久并不确定。
- 若 AI 系统能大规模有效委派与协作，多数阻碍将消失：单个坏行为者可以不受限制地扩大运作规模。
- 当前开源模型还不太擅长「充当一个高效组织」；闭源模型在大规模滥用时理论上可通过监控发现，但新模型改进、scaffolding 或新发布都可能让局面迅速改变。
- 作者附 2019 年的威胁框架图：危害可能性取决于 Awareness（对手注意力、资源方被说服的可能）、Deployment（人才管道、可复现性、可改性等）、Sustained Use（实际 ROI 及评估）。
- metaviv 请教社区：哪些瓶颈最可能长期存在、改变需要多久。
「漫话AGI」频道最新
- 超 1000 名数学家组建「人类数学协会」,承诺不发 AI 生成论文 — Hesamation · 2026-10-25
- 马斯克松口:也许 Larry Page 是对的,希望 AI 对我们友善 — marigo · 2026-10-25
- AI 让交付从数月缩到数天，从业者呼吁速度应抬高而非降低标准 — annetgriffin · 2026-10-25
- Samotsvety 超级预测员估 2030 年前最高失业率中位数约 8.5% — NathanpmYoung · 2026-10-25
- 美国人以为企业平均净利率 36%，现实远低于此 — NathanpmYoung · 2026-10-25
- Sam Altman:已无法靠打补丁挡住一切,前沿模型要当新护盾 — GarrisonLovely · 2026-10-25