MIT Media Lab 推出 Drift Calibrator:实时可视化 AI 谄媚与毒性漂移
patpat_mit · x · 2026-11-07
MIT Media Lab 的 Drift Calibrator(Neuronpedia 上可试玩,基于 Llama 3.1 8B)把机械可解释性做成聊天界面:实时可视化与谄媚(sycophancy)、共情、诚实、毒性等特质相关的模型内部信号。
- 动机:人类交流依赖肢体语言和语气,而 AI 聊天缺少这类上下文,用户难以察觉模型行为变化。
- 做法:用 mechanistic interpretability 对比「诚实 vs 谄媚」等对立行为对应的神经激活,计算随对话实时更新的行为分数。
- 演示显示对话中「Unempathetic 40%→Empathetic 29%」「Honest 31%→Sycophancy 61%」等漂移;论文发表于 2026 年 ACM IUI。
「模型」频道最新
- Inkling 2 Small 以极低成本登顶开源模型 ARC-AGI-2 榜，下周开放权重 — LiTianleli · 2026-11-07
- 用户报告 Gemini 记忆功能失效：无法读取或写入记忆 — Boshirul · 2026-11-07
- 本地 LLM 迎黄金时代:Qwen 量化模型 12GB 显存跑 131k 上下文 — Present_Resource4022 · 2026-11-07
- 实测 Kimi K3.1 Pro 照片转 3D:思考推理几何光照并生成 Three.js 场景 — demian_ai · 2026-11-07
- Nous Research 发布 Arete-27B:微调后中国模型宣传率从 22% 降至 1% — NousResearch · 2026-11-07
- 爆料称 GPT-6 Astra 机器人能力并非涌现,而是用了机器人专训数据 — gleech · 2026-11-07