作者观点:人类可容 AGI 但必须封禁 ASI,2030 年代成关键防线
JOBhakdi · x · 2026-09-27
作者提出对 AGI 与 ASI 的差异化立场:AGI(人类水平 ±50% IQ)即便数量达到数十亿甚至万亿,仍依赖人类组织和资金,权力平衡可控;若结盟作恶,人类也有组织反抗或分化的机会。而远超人类智能的 ASI 则让这一切失效,「我们很快就会彻底完蛋」。
因此作者预测未来将收敛于:禁止超高智商系统,并把开发 ASI 定为最大 offenses。他称监管其实不难,因为 ASI 训练需要超大规模算力集群,目标明确。到 2030 年代,人类与灭绝的竞赛将转为:防止大量 AGI 智能体(加上恶意人类)通过其他路径造出未对齐的超智能。
作者还断言:「可预见未来没有任何人类问题需要超智能来解决」,AGI 智能体系统足以应对一切,而算力建设仍须以最高速度推进以满足推理与测试需求。
所属事件:网友激辩 ASI 生存风险：AGI 可容而 ASI 须禁(4 条相关)→
「漫话AGI」频道最新
- 对齐研究员被吐槽在替模型当 SRE — tekbog · 2026-09-27
- 「LLM 不会数学」论被反复后撤,千禧年难题已被解出 — aran_nayebi · 2026-09-27
- WSJ 报道被指印证「守望者类比」：存在威胁成集权借口 — vishalmisra · 2026-09-27
- 多少知识工作者已「派活给 AI 后忘掉」?作者估计不足 1% — mattbeane · 2026-09-27
- 开放任务奖励靠评审 agent？开放场景下的 reward hacking 之辩 — willcb · 2026-09-27
- 安全圈发声：AI 再擅长挖零日漏洞，网络防御也兜得住 — basedjensen · 2026-09-27