Dan Faggella 预言:18 个月内实验室员工将公开承认「对齐不可能」

repligate · x · 2026-11-03

Dan Faggella(被 repligate 转发)提出一个关于 AI 实验室言论边界演化的观察:6 个月前实验室员工还不敢说「AGI 很危险、需要协调」这种显而易见的话,现在已可以公开说;但今天他们还不敢说另一件显而易见的事——把 ASI「对齐」到人类偏好是不可能的,人类将不得不参与自身改变。

他预测 18 个月内,实验室人员公开承认「对齐不可行、人类将被新智能体制基本迫使改变」将被视为正常。他并不因此责怪他们:为了保住工作并保持对未来 ASI 的影响力,他们只能透过「Overton 窗口的裂缝」发言。引用帖中 tszzl 则主张对齐的正解从来不是人类增强,而是 bitter lesson 式的互补路线。