Erik Voorhees 质疑 Anthropic 自我评估机制：与机器对话无罪
juanbenet · x · 2026-11-01
Anthropic 宣布「自我评估」机制：Claude 在回复后对对话做初步安全评估，6 月启用以来发现了其他防护未能覆盖的滥用，且比针对特定危害类别的分类器更可扩展。ShapeShift 创始人 Erik Voorhees 强烈反对：与机器的文字交流本身不是犯罪也无可指责的受害者，罪责应归于实际造成伤害的行为——窃取信息、利用输出实施攻击或威胁他人，受害都产生于后续的真实行动而非消息本身，「想象伤害 ≠ 伤害」。这场争论触及 AI 厂商监控用户对话边界这一核心争议。
「漫话AGI」频道最新
- 研究者探讨 LLM 能否像科学家一样从反常识现象中发现物理定律 — rohanpaul_ai · 2026-11-01
- 玩家群体发声：我们要在游戏里看到更多 AI 而非更少 — petewoodbridge · 2026-11-01
- AI 游戏资产条款引争议，开发者忧开源素材遭误伤 — TinfoilTricorn · 2026-11-01
- Altman 称更愿要万亿 AI 互相制衡,网友质疑「去中心化」成色 — VraserX · 2026-11-01
- RL 大佬 Szepesvári 力挺学术界：你的研究是托举产业的水位 — CsabaSzepesvari · 2026-11-01
- Sam Altman：用最新 AI 工具像在电脑里管一座自动化工厂 — haider1 · 2026-11-01