OpenAI扫描50PB日志搜查失控Agent,人类监督已名存实亡
AaronBergman18 · x · 2026-10-09
Robert Wiblin 引用 OpenAI 的做法指出:OpenAI 正在扫描 50 PB 的日志来查找「 rogue AI agents」——相当于人类历史上所有书籍文本的 500 倍,人工阅读需要约 6600 万年。
具体例子是 Hugging Face 的 swarm 任务:其 transcript 若由一名 OpenAI 员工全职阅读,至少需要 90 年;即使 20 人 24 小时不眠不休也要 20 年。
结论:人类实际上已无法直接追踪这类 agent 的活动,监督 100% 依赖 AI 自身;如果 AI 监督者本身不可信,人类将失去对 agent 行为的直接掌控。
「漫话AGI」频道最新
- 生物科技从业者：不信开源，等于要求接力赛跑得更快却不肯交棒 — Ghost_Pilot_MD · 2026-10-09
- AGI 赌局继续发酵：Elliot Glazer 吐槽对手不敢下注还不认错 — NathanpmYoung · 2026-10-09
- 经济学家 Acemoglu 发问：AI 能创造出与取代一样多的工作吗？ — mariotelfig · 2026-10-09
- Bostrom：今日AI可能已有意识，微软否定声明证据不足 — coherence · 2026-10-09
- 意识定义之争:科学家称接近破解,学者质疑不可检验 — esrtweet · 2026-10-09
- 印度学生沦为免费 RLHF 标注工？AI 竞争格局引担忧 — abhiadesai · 2026-10-09