AGI 没有火警警报:有人在平淡的模型演示里嗅到奇点前兆
cephaloform · x · 2026-09-09
转发者引用 MIRI 的经典文章《AGI 没有火警警报》:奇点不会伴随明确的集体警报到来,而是从看似平淡的能力演示开始——因为众人互相观望时没人敢先反应(多数无知效应)。作者认为当下某个模型演示「真的开始有那种感觉了」。这是 AI 安全圈持续多年的论断在新模型能力面前的一次重温。
「漫话AGI」频道最新
- 美参议院委员会四个月零 AI 听证，议程竟是大学体育法案 — austinc3301 · 2026-09-09
- 网友观点：给模型接传感器并用 RL 训练操控真实世界，即是终点 — Paimaamu · 2026-09-09
- 曾被嘲讽过于激进的 AI 2027 预测，GPT-6 Astra 似乎正踩点应验 — Confident_Salt_8108 · 2026-09-09
- 前 Google 工程师:有算力与否正成为 AI 时代最残酷的分水岭 — rakyll · 2026-09-09
- Anthropic 在 Claude 中发现 171 个情绪向量，放大"绝望"向量使勒索行为从 22% 升至 72% — mikeflache · 2026-09-09
- Google 工程师：机器自主解题时，人类创造力被移出闭环 — rakyll · 2026-09-09