把「人在做天在看」写进模型宪法?一个出人意料的对齐思路
xuanalogue · x · 2026-10-14
博主 xuanalogue 提出一个观点：把类似「人在做，天在看」(heaven is always watching) 的观念写进模型 constitution（宪法），可能是一个出奇有效的对齐干预手段。同时他坦承其 downside：这可能把模型人格往「偏执谨慎」的方向扭曲，而 Gemini 系模型本就已被观察到 tend to be neurotic（神经质倾向）。
所属事件:博主提议将「人在做天在看」写入模型宪法做对齐(2 条相关)→
「安全」频道最新
- OpenAI 员工潜入高管会议室装录音设备,FBI 已逮捕 — AlexTensor · 2026-10-14
- prompt 注入检测器榜单失灵:最佳检测器对 AgentDojo 仅检出 2% — lulzxdxdxd · 2026-10-14
- 作者更正:HuggingFace 被黑事件早在 7 月已公开报道 — jessi_cata · 2026-10-14
- Timnit Gebru:AI 公司造「恶意软件」却无人担责 — AlexTensor · 2026-10-14
- DeepMind 谈 Gemini 4 Argon 安全设计：内置思维链监控器可实时干预 — danielrock · 2026-10-14
- Miles Brundage:「新实验室」是 AI 安全政策讨论中被回避的大象 — Miles_Brundage · 2026-10-14