排查模型行为来源的五步指南
gerardsans · x · 2026-08-20
提供了一个分步指南，用于定位模型特定行为的来源。按可能性排序的怀疑对象包括：1. 训练数据；2. 预训练；3. 后训练（RLHF/RL）；4. 部署设置（系统提示词、UX/UI、API 设置）；5. 推理过程（提示词、上下文、工具）。
「研究」频道最新
- 研究称大模型后期训练导致语言新颖但缺乏实用性 — TuhinChakr · 2026-08-20
- 合成 RL 环境新思路：一模型出题一模型玩，胜率居中成关键 — tokenbender · 2026-08-20
- Agent 后训练困境：首步锁定策略，缺乏中途反思机制 — omarsar0 · 2026-08-20
- GEN-1.5 爆火背后：重复性动作与 UM I 数据采集成关键 — DrJimFan · 2026-08-20
- NEJM 观点：AI 用于健康行为改变效果微小且难预测 — zakkohane · 2026-08-20
- Claude Code + Opus 5 跑满 ARC-AGI-3，核心在可证伪预测 — scaling01 · 2026-08-20