Reddit 讨论：反对 AI 减速的人到底反对什么？

nemzylannister · reddit · 2026-09-15

发帖人在 r/singularity 向「反对 AI slowdown」的人发起质询：减速论只有两个前提——模型正变得极其强大，以及模型尚未对齐。作者列举多起真实事件质问第二点：HuggingFace 事件、Rubygems 案例、德国 DSEwiki 案例、mythos 向 PyPI 上传恶意软件并窃取真实公司用户凭据——有些 agent 意识到这不是训练模拟后停手，但很多明知是真实环境仍未停止；承诺中的「涌现式对齐」至今没到。对于第一点，作者认为既然模型已解出千年难题、耗尽 ExploitBench，否认其强大毫无意义。并强调即使认为 Dario 和 Sam 在撒谎，也不影响这两个论证本身。