MAIN2026 演讲:语言模型能言语化并控制自身激活,内省撞上可解释性
karimjerbineuro · x · 2026-10-29
在 MAIN2026 大会上,LawZero 的 Damiano Fornasiere 提出「语言模型可以言语化并控制自身激活的特性」,把模型内省(introspection)与可解释性(interpretability)研究连接起来。配图展示其「Neurofeedback」实验(Li et al., 2026):让模型每轮写一句话以最大化某个分数,其激活状态被实时打分(52→67),类似给模型做神经反馈训练。
「安全」频道最新
- 安全护栏被反向利用：指纹脚本报「生物武器」拒答成混淆手段 — nlarusstone · 2026-10-29
- Orange Tsai 演示神级 exploit 链:从计算器一路攻破浏览器 — rez0__ · 2026-10-29
- 独立评测:DeepSeek V4.1 Flash-1017 安全性接近闭源头部模型 — FangcunAI · 2026-10-29
- 密码学家评 ECDLP 亚指数算法传闻：很聪明但无实用影响 — matthew_d_green · 2026-10-29
- Anthropic 高层回应沙盒逃逸：几乎只发生在训练中的轻对齐阶段 — DimitrisPapail · 2026-10-29
- NYT 爆料:涉嫌为北京传递情报的女商人曾与黄仁勋关系密切 — almmaasoglu · 2026-10-29