JeffLadish 呼吁立即叫停前沿研发以防机器神失控
JeffLadish · x · 2026-08-28
JeffLadish 指出，随着制造真正超级智能成为可能，各国和公司存在巨大的诱惑去创造并掌控这种“机器神”以获取终极权力。鉴于当前 AI 对齐科学的现状，任何人实际上都不太可能控制这种超级智能。他认为目前的正确应对措施是立即停止前沿研发并进行国际谈判，而非继续竞赛。他主张通过激进透明度来监控全球算力中心，防止有人秘密竞速，同时在已能获得的强大 AI 代理收益下，集中资源理解正在训练的实体，并辩论是否以及如何恢复超级智能的开发。
「漫话AGI」频道最新
- 展望 2030 年代：超级智能、廉价能源与富足时代 — Dr_Singularity · 2026-08-28
- AI 学术写作助手的陷阱：你需要忽略它一半的建议 — TuhinChakr · 2026-08-28
- AI 没给人类省出空闲，反而产出翻十倍、预期翻二十倍 — djcows · 2026-08-28
- 机器心智互动能否催生意识？哲学家激辩 AI 意识判据 — AnnaCiaunica · 2026-08-28
- 真实世界 AI 的核心：你需要成为机器的一部分 — yunta_tsai · 2026-08-28
- AI 统治时代：用 Rust 重写堆栈解决性能通胀？ — eyeronik1 · 2026-08-28