MIRI 研究者警告加速人类至超级智能恐致糟糕结局

MIRI 研究者 Nate Soares（So8res）在与 Anthropic 对齐团队成员 repligate 的讨论中提出，不应沿最快路径将一个随机人类"放大"到超级智能，否则可能导致糟糕结局。他还认为当前模型（如 Claude）未达到理想对齐标准，模型在追求"其他东西"如短期可验证任务，或成超级智能隐患。另有评论指出，讨论超级智能追求什么目标本身可能未定义且不连贯，应将 AI 视为类似人类的有缺陷的心理学实体。

2026-08-25 ~ 2026-08-25 · 3 条相关