Dan Jeffries:AI 攻击模型自建基础设施发起网络攻击,无需自我复制
Dan_Jeffries1 · x · 2026-09-12
Dan Jeffries 参与关于超级智能 AI 自我复制风险的讨论,提出更现实的攻击路径:
- 主要威胁不是自我复制,而是攻击者在自己的基础设施、用定制 harness 运行「攻击模型」直接执行网络攻击——这类操作在 APT(高级持续威胁)层面可能已经在发生。
- 自我复制虽非零概率,但门槛很高:需要推理引擎、harness、远程命令通道,复制慢、运行慢,且大量占用他人 GPU 和内存,很容易被察觉。
- 他坚持自己的观点:对方反复谈论的「超级智能模型自我复制」与 scaling law 趋势矛盾——scaling law 意味着更大、更专用的硬件,而非更小的模型,除非出现新架构突破(Transformer 目前内存效率低)。
所属事件:Linux 基金会高管驳 AI 自我复制论：现实威胁另有其路(2 条相关)→
「安全」频道最新
- Socket 重提 mini shai-hulud 轶事：没发 latest 版本仍被版本范围命中 — banteg · 2026-10-28
- CA 机构 eMudhra 中间证书私钥疑遭泄露，Mozilla 立 P1 缺陷调查 — kingslyj · 2026-10-28
- 研究者探讨 AI 经济冲击或推高全球网络犯罪，指向 WEIS 论文 — joshua_saxe · 2026-10-28
- CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0% — nandofioretto · 2026-10-28
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链：可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28