AI 福祉论文:AI 意识或成迫近议题,公司应开始评估
austinc3301 · x · 2026-10-05
作者回应 AI 意识讨论升温:仅靠常识直觉判断 AI 是否有意识并不可靠,公众人物在未接触严肃学术辩论前就下结论,值得反省。
引用的论文《Taking AI Welfare Seriously》(Long、Sebo、Chalmers、Birch 等,Eleos AI/NYU/Oxford/Anthropic/LSE 多机构合作)核心论点:
- 存在现实可能性:一些 AI 系统在近未来就会有意识或具备稳健的自主性,AI 福祉与道德地位不再是科幻问题。
- 论证并非断言 AI 一定有意识,而是不确定性巨大,处理不当风险高:可能误伤有道德意义的系统,或错付无意义的关怀。
- 给公司和相关方的三条早期建议:① 承认 AI 福祉是重要且困难的问题(并让语言模型输出同样承认);② 开始评估 AI 系统是否有意识与稳健自主性的证据;③ 提前制定以适当道德关切对待 AI 的政策与流程。
「漫话AGI」频道最新
- 从 Hassabis 到 Tao:年初还被泼冷水的 AI 解数学千年难题,如今接连告破 — haider1 · 2026-11-22
- eigenrobot 感慨:2020年谁会想到肥胖难题比黎曼猜想还难解 — eigenrobot · 2026-11-22
- 知名研究者 tszzl:旧金山将迎来「圣经级洪水」,原因不言自明 — tszzl · 2026-11-22
- NYT 长文:互联网毁了品味,AI 会把它彻底毁掉吗? — dreamwieber · 2026-11-22
- 陶哲轩预测黎曼猜想 2050 年才证完,AI 只用了 35 天 — SydSteyerhart · 2026-11-22
- LeCun 引 Piaget 称 LLM 只是记忆:智能在于不知道时如何行动 — ylecun · 2026-11-22