开源「道德斗篷」提案:AI 按角色穿戴可审计的行为规则
kemckai · reddit · 2026-11-21
Reddit 用户发布开源项目 moral-cloak,提出不把规则训练进模型、而是让 AI「穿上」对应角色的斗篷(母亲、教练、朋友、员工等),每个斗篷带该角色的严格行为规则:
- 所有斗篷共享一条任何角色都不能突破的道德底线:不伤害、不操纵、遇危险必须转交真人
- 文化差异像应用的语言设置一样调节角色规则,家庭可再自定义,但硬性底线不可触碰
- 规则外挂在模型上,全程可读、可审计,且 AI 须标明当前穿的是哪个斗篷
作者抛出的未解问题是:在特定文化里,谁有资格为「母亲」这类角色制定规则?提案 PDF 与代码已在 GitHub 开源(目前尚无 star)。
「编程与Agent」频道最新
- Nyte IDE 发布:为独立代码编辑器极限性能重造 IDE 体验 — henloitsjoyce · 2026-11-21
- Meta Muse Code 支持会话内直接生成 3D 资产,自动存为带纹理 GLB — acbuller · 2026-11-21
- Steve Yegge:agent 记得你每条指令,包括你已反悔的那些 — Steve_Yegge · 2026-11-21
- 编码已死软件不死:好软件是一套坚定观点而非代码 — pramodk73 · 2026-11-21
- 8GB 笔记本显卡微调 Qwen3.5-4B,网页生成成功率从 35% 提至 53% — MuzafferMahi · 2026-11-21
- DocSend 不支持 URL 定位页码,Juan Benet:SaaS 该让用户能自己改 UI — juanbenet · 2026-11-21