评论者警告:已处快速起飞期,「AI 研究员」或将失控

thedealdirector · x · 2026-09-21

作者提出，我们可能已处于「快速起飞」阶段，留给构建真正安全护栏的时间窗口正迅速收窄。他认为用 LLM 无法直接「解决 AGI」，但需要足够先进的 LLM 充当「AI 研究员」去发现下一步技术；风险在于越过某个临界点后，人类将无法理解或控制这个 AI 研究伙伴在做什么。他还主张「一切都是为了钱」是错误的观察视角——AGI 时代是「后金钱」时代。