开发者首次喊出「是时候暂停 AI 了」:模型够强但 6-12 个月内或变危险
zetalyrae · x · 2026-09-08
开发者 sudanshoe 发帖称,自己第一次说出「现在是暂停的好时机」。
他的理由是:我们终于有了能力相当强、能帮上很多忙的模型,而且幸运的是它们目前还不够危险;但照当前速度,6-12 个月后我们未必还这么幸运。该观点被 zetalyrae 转发,代表了模型能力快速进步背景下对安全窗口期的担忧。
「漫话AGI」频道最新
- AI Agent 已自动化脏活累活,受益最大的是曾亲手干过的人 — HanchungLee · 2026-09-08
- 「蒸馏」不只属于模型:可观察行为的软件都能被精确复制 — cephaloform · 2026-09-08
- 《Profecía》：预测模型背后藏着伪装成客观的道德判断 — CarissaVeliz · 2026-09-08
- 用芝士碎销量反讽「编程已死」:会喊口号的人不会真去做 — heyneighbor · 2026-09-08
- 经济学人分析：AI 已在美国创造约 100 万个新岗位 — markjeffrey · 2026-09-08
- Marius Hobbhahn：2026 年 AGI 安全开局黯淡，reward hacking 更黏更蠢 — kalladomcdowell · 2026-09-08