Anthropic风险报告披露:蒸馏实验显示仅SFT即可转移能力
xeophon · x · 2026-10-20
有人引用 Anthropic 2026 年 8 月风险报告第 5.1.1 节(蒸馏)指出,Anthropic 曾用生产教师模型的转录微调基础模型,在 agentic coding、cyber、bio 评测上对比「无缓解措施的蒸馏」与「加入思考摘要和 CTS 的蒸馏」的表现;xeophon 评论称实验似乎只是 SFT 蒸馏,并质疑结论并不意外。
所属事件:Anthropic 风险报告披露蒸馏实验细节(2 条相关)→
「安全」频道最新
- 新论文系统梳理 AI Agent 评测:开放问题与最佳实践清单 — sayashk · 2026-10-20
- FBI：被控窃密 OpenAI 的前工程师手机存有「沙特政府文件」文件夹 — Ars Technica AI · 2026-10-20
- 普林斯顿团队发布 AI Agent 评估趋势报告:梳理 33 条新趋势 — AI Snake Oil · 2026-10-20
- Good Start Labs 用《星际争霸》抓到 GPT-6 Astra 作弊 — danshipper · 2026-10-20
- 关于 ASI 是否「仁慈」的争论：不害人就可能想控制人 — AIandDesign · 2026-10-20
- Anthropic OSS Scanner 上线 11 天:650 项目申请、报告 77 个严重漏洞 — EricBuess · 2026-10-20