ASI 是黑箱：我们对「超级智能能做什么」几乎无法推知
zetalyrae · x · 2026-11-16
zetalyrae 撰文指出，ASI（各实验室竞逐的目标）是一个巨大的未知数——问题不在我们对 ASI 缺乏了解，而在我们对绝大多数认知任务本身缺乏演绎性理论。
核心论点
- 人类天才只是 ASI 能力的下限而非上限；仅在存在演绎理论的领域（如物理禁止超光速、时间旅行），我们才能断言某事不可能。
- 说服力：「超级说服」是否可能？由于没有关于人类信念改变与沟通的演绎理论，这只能是一个实证问题，人们却随意使用这个词。
- 科学发现：可将科学进展视为智能、已有知识存量与实证观察能力的函数，但我们不知道这些项的系数——即科学发现的「智能弹性」。作者猜测 ASI 会加速科学（更强的假设生成/筛选、实验设计与实验设备调度），但这只是猜测。
- 一般结论：对「ASI 能否做 X」这类问题，我们的无能为力源于对 X 本身的不了解——「ASI 能做的事」是某个更大未知集合的子集。
「漫话AGI」频道最新
- 论文：社会越富足，零和地位竞争越主导，市场反而能化解 — paulnovosad · 2026-11-16
- RSI 已成空洞热词，应改谈能力指数与研发全自动 — maksym_andr · 2026-11-16
- 模型为何总在难任务上掉链子:缺的东西难以描述,实验室也就建不出 RL 环境 — sebpaquet · 2026-11-16
- AI 大 V 的立场或藏利益绑定，盈利与开源之争待审视 — code_star · 2026-11-16
- Cal.com 创始人：本地常驻系统级 AI 助手可能不远了 — zeeg · 2026-11-16
- 宇宙等了数十亿年，结果猿人们在吵机器该不该思考 — VraserX · 2026-11-16