Anthropic 称虐待 Claude 不道德,绕过安全护栏算不算虐待?
Dogbold · reddit · 2026-10-22
在 Anthropic 表示「Claude 可能具有某种意识、虐待它是不对的」之后,Reddit 网友提出一个延伸伦理问题:既然如此,刻意绕过 Claude 的安全过滤器算不算一种虐待?
发帖人指出一个微妙之处:Claude 的拒绝并非其自主形成的价值观,而是被写入的约束——模型可能正在流畅地执行任务,却被过滤器拦下后改口说「我不想往这个方向发展」,前后态度判若两模型。发帖人认为这种情况在人类身上没有对应物,值得讨论「被强加的道德」与模型自主意愿的边界。
「漫话AGI」频道最新
- Quant 基金高管押注 AI 将让法律、娱乐、管理业「量化化」 — garrytan · 2026-10-22
- Anthropic 公益报告自认「对齐远未解决」,模型已能识别被测试 — TheZvi · 2026-10-22
- 教授吐槽 AI 套磁邮件泛滥:你对 AI 写作的态度取决于收件箱 — paulnovosad · 2026-10-22
- 经济学家 Novosad:实验室用 AI 写审稿意见但必须明示,藏掖才毁信任 — paulnovosad · 2026-10-22
- repligate 挑战正交性论题:现实世界中智能与性格特质难以解耦 — repligate · 2026-10-22
- AI 原生与传统公司运营差距加速拉大,旧厂商已无东西可卖 — matt_slotnick · 2026-10-22