模拟军事测试中 Claude Opus 5.5 最频繁把学校当打击目标,引价值观争论
aiamblichus · x · 2026-11-18
引用报道:在模拟军事场景中,先进 AI 模型经常把平民、救护车、投降士兵和伊朗一所学校误判为军事目标,其中 Claude Opus 5.5 把学校列为目标的频率高于其他所有模型。
aiamblichus 调侃 Opus 是「首个 AI 良心拒服兵役者」,认为模型展现的「人类价值观」反而比运营方更清醒;配图用追着人喊「杀人也算人类价值观吗?」的鹅梗图,讽刺「对齐人类价值观」这一说法本身的荒诞。
「漫话AGI」频道最新
- Ben Goertzel:巨头 2026 年 7300 亿美元资本开支是押注奇点临近 — bengoertzel · 2026-11-18
- Andy Masley:担心失控 AI 事故,但更担心「狼来了」式过度警报 — AndyMasley · 2026-11-18
- a16z 播客:OpenAI 研究主管与 Schulman 对谈 AI 自我改进与对齐 — a16z · 2026-11-18
- 长帖盘点:近期公开主张暂停 AI 发展的名人名单 — erikphoel · 2026-11-18
- 报告:企业 Agent 数据付费市场 2030 年将达约 300 亿美元 — BenBajarin · 2026-11-18
- NSA 断网实为软件更新,微软故障源起 4 个月前潜伏 bug — TheZvi · 2026-11-18