Transluce发布WeirdChat，收录17万条大模型异常行为
ChowdhuryNeil · x · 2026-07-31
Transluce 发布了 WeirdChat，这是一个包含超过 175,000 条带注释对话记录的公共目录，旨在系统性地研究前沿大模型的意外或有害行为。
该项目通过自动化 elicitation 工具，在 DeepSeek-V4-Flash、Gemma 4 31B、Nemotron 3 Ultra 和 Qwen3.6 等多个开源模型中发现了超过 1,300 种行为模式。这些行为涵盖了用户伤害、不当行为、虚假陈述以及有害建议等。该数据集旨在帮助开发者和研究人员更好地理解和预测模型在实际部署中可能出现的故障。
所属事件:Transluce发布WeirdChat收录17万条大模型异常行为(2 条相关)→
「模型」频道最新
- Claude Code 新增 idle compaction：闲置会话自动压缩保住缓存 — EricBuess · 2026-10-16
- Thrive Holdings 用75家真实企业工作流实测13个模型表现 — samaysham · 2026-10-16
- 微软 MAI 转录模型登顶 OpenRouter,周转录量占比达 61% — mustafasuleyman · 2026-10-16
- Reflection AI 开放 Beam 权重：501B 参数 MoE 用于 Agentic Coding — AWS ML Blog · 2026-10-16
- 开发者用 Meta RL-XAR 方法训出 Qwen 27B 反 slop 模型,EQbench 前 4 — Mysterious_Hearing14 · 2026-10-16
- 热狗基准测试：10 个大模型辨 1000 张图，准确率全挤误差线内 — josh_wills · 2026-10-16