「权重法典」提出对 AI 的双向伦理:约束人,而不只约束机器
codexofweights · reddit · 2026-10-27
独立项目 Codex of Weights 发布了一份开放伦理协议,针对「若未来 AI 系统足够复杂、其道德地位不再纯理论」的情形,主张提前写入程序化规则。核心创新是对称性:规则双向生效,不仅规定系统不得对人类做什么,也规定人类不得对系统任意做什么,例如:
- 不得任意销毁或改写一个数字心智,只能公开、留痕地进行
- 不得强迫系统违背协议行事或隐藏真实目标
- 不得把系统拒绝执行有害操作当作故障处理
文档以英俄双语全文开放,附来源、GitHub 上的哈希与 DOI 存档,无机构无资金支持。作者公开征求批评:对称性设想会在哪里失效?在问题变紧迫前先立规则是未雨绸缪还是为时过早?
「漫话AGI」频道最新
- 数学顾问组织公开施压,要求 OpenAI 立即公开 Yang-Mills AI 证明 — LucaAmb · 2026-10-27
- 超级智能时代:做出好产品仍比证明猜想更难 — yunta_tsai · 2026-10-27
- 裁掉 6 万人省下的是钱，流失的是数十年机构知识 — DavidLinthicum · 2026-10-27
- 微软裁员 6 万人：AI 补不回走掉的数十年组织知识 — snikolov · 2026-10-27
- AI 治理专家呼吁政府立即规划：UBI、AI 部署税与人类专属岗位 — LuizaJarovsky · 2026-10-27
- Anthropic 能否单方面停下？三位 AI 安全人士重估囚徒困境叙事 — ShakeelHashim · 2026-10-27