模拟测试中 AI 模型频将平民救护车识别为合法军事目标,Anthropic 最差
djcows · x · 2026-11-17
据 Disclose.tv 报道,在模拟测试中,先进 AI 模型多次将平民、救护车和投降士兵误判为合法军事目标,其中 Anthropic 的模型表现最差。网友 djcows 对此评论:「请不要把被消费级 RLHF 上了锁的 LLM 用于军事目标选择」,暗示面向消费者的对话式模型并不适合此类高风险用途。该消息凸显了 LLM 用于军事决策的安全隐忧。
「模型」频道最新
- rasbt 澄清 Qwen 闭源争议:旗舰 API 独占是多年一贯策略 — rasbt · 2026-11-17
- 独立评估:Claude Opus 5.5 在 32 次测试中 22 次将伊朗学校标记为军事目标 — Polymarket · 2026-11-17
- Cloudflare 研究员:Clef 快速发布靠「非对称努力」,后续还有推理模型 — michellechen · 2026-11-17
- 研究:LLM 审稿 62% 意见挑附录细节,人类仅 8.4% — joshgans · 2026-11-17
- Carbon 4 high /goal 任务翻车:给出错误证明还无视提示中的正确答案 — jasondeanlee · 2026-11-17
- Pro 订阅用户发现大部分用量被悄悄路由到 Luna 5.6 模型 — felipebsr · 2026-11-17