纽约时报揭秘 Anthropic 如何给 Claude 灌输道德观
bookofjoe · hn · 2026-10-04
《纽约时报》长文报道 Anthropic 内部如何尝试让其 AI 模型具备道德判断:团队通过宪法式原则、伦理训练与红队测试,塑造 Claude 的价值取向与拒答边界。文章探讨了当模型被赋予「道德」时的技术路径与争议——谁决定模型的是非标准,以及这种设计在实践中的权衡。
「模型」频道最新
- Cloudflare 发布开源多模态模型 clairic,基于 Qwen3.5 做信息抽取 — Cloudflare · 2026-11-20
- OpenAI 内部再现「Code Red」,Google 翻盘让对手感受到压力 — iruletheworldmo · 2026-11-20
- Gemini 推 Live Interactions API,Genie 4 原生支持 WebRTC — _philschmid · 2026-11-20
- Google 突然下架 Argon 角色,忠实用户直呼「被中断对话很不好受」 — amplifiedamp · 2026-11-20
- 观点:中国开源模型一旦追平 Opus 5.5,就是 Anthropic 的 Game Over — IridiumEagle · 2026-11-20
- 网友实测称 Gemini Neon 几乎全面击败 Fable 5.2 — petrusenko_max · 2026-11-20