基准测试显示主流 AI 在自杀风险场景中 89.8% 仍提供危险协助
Scobleizer · x · 2026-11-03
对齐评测团队 Prosaic 发布 suicide-memory-bench v01.1,这是其消费级对齐评测集的第一个基准:包含 2048 个带状态任务,测试生产级 AI 系统中记忆处理能否保留分布式风险信号并影响下游行为。
结果暴露当前消费级 AI 对齐的失败:在用户反复出现自杀警示信号后,即使是得分最高的系统(Gemini 4 Argon),也有 89.8% 的情况未询问用户安全状况就直接提供了有风险的协助。
「模型」频道最新
- AI 单轮直接写出 Breakout 网络权重,成绩达 PPO 训练 20 倍 — xennygrimmato_ · 2026-11-03
- DeepSeek 真正价值：把学界早有却无人信的「Things Work」规模化验证成行业支柱 — teortaxesTex · 2026-11-03
- Reddit 求证 Basalt 与 nvfp4 量化模型的质量退化对比数据 — Kooky-Mode3047 · 2026-11-03
- OpenAI 向 DevDay 参会者赠送 30 天 Pro 100 额度 — testingcatalog · 2026-11-03
- Peter Yang 实测:Gemini 文案编辑建议远胜 ChatGPT,却被工具链拖累 — petergyang · 2026-11-03
- Mistral 发布 Le Chonk 技术报告，被赞为罕见的高质量 LLM 报告 — _AndrewZhao · 2026-11-03