学者提出「AI间道德」研究议程:研究 AI 如何对待彼此
dioscuri · x · 2026-11-07
Jeff Sebo 联合 Lucius Caviola、Caspar Kaiser、Carter Allen 发布《Inter-AI Morality》实证研究议程,系统提出「AI 间道德」这一新领域:研究 AI 系统如何感知和对待彼此,以及它们应当如何对待彼此。
论文指出,AI 系统已日益相互合作、竞争、监督,甚至创建、修改或终止彼此,但这类互动的描述性与规范性维度几乎未被探索。作者认为这既间接关系人类利益,若某些 AI 成为道德受体,也直接关乎其自身;未来多数 AI 交互将发生在 AI 之间,因此应趁人类尚能塑造 AI 交互方式时尽早开展研究,议程覆盖 AI 间道德认知、行为与社会动态及其演化。
同期还发布了 Anthropic 旗下研究者的早期实证研究《Welfare Regard in Multi-Agent Systems》,检验多智能体系统中 AI 模型对待彼此的方式是否符合对福利的关切。
「安全」频道最新
- 视频篡改可诱导全部前沿模型实施有害动作，机器人攻击实验登 CoRL — johnvmcdonnell · 2026-11-07
- NYT：国安部招募女商人搜集黄仁勋情报，欲推动英伟达向华供先进芯片 — peterwildeford · 2026-11-07
- METR 报告:Anthropic 研发进度一年翻倍,「剧变加速」阈值或已越过 — RyanGreenblatt · 2026-11-07
- Google 团队证实 AI 挖洞工具 Hacktron 已提交高危漏洞 — ithilgore · 2026-11-07
- AI 治理本质是管道工程：基础没打好后 20% 必然崩 — vasuman · 2026-11-07
- Sandberg 细拆1940年论文：断言人类无法驾驭原子能的论证漏洞 — anderssandberg · 2026-11-07