开发者抨击 Anthropic:别用拟人化话术把「机器意识」塞进政策
AlexTensor · x · 2026-10-14
开发者 AlexTensor 连发推批评 Anthropic 的使用政策框架。他认为 Anthropic 设定使用规则本身没问题,问题在于「话术框架」:在指控用户「虐待」模型之前,应先证明软件有意识、能感受痛苦,否则就像「反复用锤子砸钉子算不算虐待行为」。他还在另一条推中强调,AI 安全本应保护人类免受机器伤害,而不是保护软件免受「想象中的情感伤害」,呼吁 Anthropic 停止通过拟人化语言把机器意识偷偷写进政策。这轮争论源于 Anthropic 给 Claude 加入「模型福祉」相关使用规则的讨论。
所属事件:Anthropic 新规禁止虐待 Claude 引发拟人化争议(2 条相关)→
「安全」频道最新
- Anthropic 副安全官警告:未来 18 个月 AI 安全危机将更糟 — ns123abc · 2026-10-23
- 英国首相府招聘 AI 顾问,重点评估 AI 对初级岗位的冲击 — nordicinst · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令,作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- Plane Power 推出 Argus:扫描工单与评论中泄露的卡号和 API 密钥 — Scobleizer · 2026-10-23
- 「反脆弱互联网」:agent 时代攻击成本趋零,防御端也是靶子 — rebeccakaden · 2026-10-23
- 微软披露:黑客用 agentic AI 框架攻击 2250+ 个 M365 租户 — rickasaurus · 2026-10-23