Reddit 网友引 Asimov 呼吁:给 AI agency 前必须嵌入不可妥协的价值观

Immediate-Court-4074 · reddit · 2026-10-05

一名 Reddit 用户发文称,只给 AI 智能体 agency 而不嵌入价值观与伦理是重大错误。他引用 Sam Altman 本周表态——「世界应接受这项技术为带来能力而发生的某些坏事」——并指出 Altman 同时承认对齐尚未解决,这正是「用价值观换进步」的错误。

作者基于 Asimov 约 80 年前的正电子大脑设想写了一篇论文,提出一条更安全的 AI 路径,主张应把价值观放在 AI 核心位置。属于对齐方向的个人观点讨论。