AI 圈激辩强正交性论题:算力边界是否限制智能体目标多样

Algon_33 · x · 2026-09-18

一条关于 AI 安全"正交性论题"的辩论:X 用户 Algon33 质疑"实践中为真"不是精确主张——计算资源上限确实存在,但为什么人类水平智能不能拥有与人类截然不同的目标?高效目标空间为何不够大、不够多样?

jessicata 回应称,强正交性论的是目标与智能之间的关系,不能在推导这种关系时假设无限智能——计算边界本身就是智能的内在属性;并补充说如果简单目标比复杂可行目标更容易被理性最大化,那将是强正交性为假的一种方式,涉及 agent foundations 研究方向。