新论文提出「AI间道德」：研究AI系统如何彼此相待
jacyanthis · x · 2026-11-07
Lucius Caviola 与 Caspar Kaiser、Carter Allen、Jeff Sebo 等合作发布新论文《Inter-AI Morality: How AI Systems Treat One Another》。
- 现有 AI 道德研究大多聚焦两个方向：人类如何对待 AI、AI 应如何对待人类。
- 论文指出一个被忽视的象限：AI 系统越来越多地与其他 AI 系统交互（agent 间交易、协商、协作），但「AI 如何对待其他 AI」几乎无人研究。
- 配图以「道德主体 × 道德受体」矩阵把领域划分为道德心理学、AI 福利、AI 安全与「AI 间道德」四块，将后者标为空白新领域。
这是一个正在成形的 agent 伦理研究议程的开端。
「漫话AGI」频道最新
- METR 估算 AI 近乎倍增研究进展,Ajeya 前研究员警告行业毫无安全准备 — AndyMasley · 2026-11-07
- tszzl 谈自然道德地位：五次大灭绝证明自然并非人类之友 — tszzl · 2026-11-07
- Vitalik Buterin 金句:「开放权重不等于开源」 — wonderwomancode · 2026-11-07
- 分析师预测中国 AI 竞争终局:DeepSeek 吸走人才,行业收敛为「两大两小」 — teortaxesTex · 2026-11-07
- Mira Murati：下一代模型实时听看不停歇，聊天框将成传真机 — Chris_Armstrong · 2026-11-07
- 法国推友附和 Gary Marcus：AI 技术多年前已达上限，终将不了了之 — GaryMarcus · 2026-11-07