前安全研究者：海量超人类攻击者将迫使我们把系统交给AI代理群
harris_edouard · x · 2026-08-19
Edouard Harris 提出一个类似《三体》「黑暗森林」的图景：未来任何包含不安全的人类编写软件、或依赖不可靠人类运作的系统，都会被无数专精网络攻击与社会工程学的超人类进攻型代理瞬间击穿。廉价超人类攻击者的压力将迫使我们逐步把所有关键系统移交给彼此通信、几乎无人类参与的不透明 AI 代理群——「我们将别无选择」。
所属事件:Edouard Harris：AI攻防终局是人类被踢出系统(5 条相关)→
「漫话AGI」频道最新
- Every 启动 Thesis Statements，畅想自动化后的人类工作 — danshipper · 2026-08-19
- Richard Ngo：微软 Meta 等大厂缺乏单点突破力 — RichardMCNgo · 2026-08-19
- Anthropic 暂缓部分前沿训练以强化安全措施 — merettm · 2026-08-19
- 关于递归自我改进(RSI)的关键讨论 — herbiebradley · 2026-08-19
- Joseph Jacks：问“一份工作要烧多少token”比问代码行数更糟 — JosephJacks_ · 2026-08-19
- 安全研究员一边喊AI灭绝风险，一边拒绝更严厂商安全要求 — basedjensen · 2026-08-19