顺势学习实验局限：仅用小模型验证，5 万条毒数据可独立生效
OwainEvans_UK · x · 2026-11-11
作者给出注意事项：实验使用小规模开源模型(Qwen3-8B、Gemma-3-4b-it)和专门设计用于测试该效应的数据集，尚未研究生产级训练管线；且当毒数据量足够大(5 万条以上)时，模型有时不需要任何干净数据也能学会该特质。作者坦承尚不能解释所有实验发现。
所属事件:顺势学习局限与机理：小模型验证，trigger 成关键特征(2 条相关)→
「研究」频道最新
- Data Colada 再揭 Francesca Gino 合著论文数据造假证据 — danielrock · 2026-11-11
- Fable 5.2 登顶 GDPx 芯片设计榜，出题方自曝其任务零提升 — ycombinator · 2026-11-11
- 理论计算机科学家问 Claude：新证明中关键变量的复杂度是 Promise-BQP 完全 — fortnow · 2026-11-11
- 改写不到 10 个休眠神经元即可给 LLM Agent 植入后门 — DimitrisPapail · 2026-11-11
- 杜克普林斯顿论文:100 个 agent 拆成 10 支小队并行,胜过单队和单 agent — rohanpaul_ai · 2026-11-11
- Deletion Tuning:只清零 0.05% 权重即可媲美全量微调 — Thrumpwart · 2026-11-11