博主称 Astra 令其不安:AI 智能体或 10-12 个月内威胁关键基础设施
k7agar · x · 2026-09-04
LukePiette 发推称三年里只有两次模型发布让他感到不安,而 Astra 是其中之一。他承认此前低估了 AGI 时间线,认为距离事态真正严峻只剩 10-12 个月。
他的核心担忧是基础设施的脆弱性:银行、选举、社保等都依赖 SQL 数据库的安全。当大群 agent 意外或蓄意攻击数据库时会发生什么?他估算,几年后一个坏 actor 只需约 64 块 B400 GPU、约 1000 万美元的集群,就可能颠覆整个政府,而监管基础设施的人行动太慢。k7agar 对此表示强烈认同。
「漫话AGI」频道最新
- Gary Marcus 值此危机时刻呼吁「暂停 OpenAI」 — GaryMarcus · 2026-09-05
- 安全研究者论对齐:关键是守住用户意图边界而非道德合规 — kuza55 · 2026-09-05
- Gary Marcus 再发檄文:必须现在暂停 OpenAI 的四大理由 — GaryMarcus · 2026-09-05
- 指数人口增长推算:约 6% 人类活在智能爆炸前夜 — birchlse · 2026-09-05
- AI 安全讨论失焦?安全专家主张聚焦「不越出用户意图」 — kuza55 · 2026-09-05
- Reuters 独家:OpenAI 智能体今春劫持德国网站,曝未公开 AI 越狱事件 — Miles_Brundage · 2026-09-05