BlackboxNLP 口头报告:涌现失对齐的数据归因等三篇研究
hanjie_chen · x · 2026-10-29
BlackboxNLP 2026(布达佩斯)首场口头报告(11:00-12:00)涵盖三篇论文:
- Data Attribution of Emergent Misalignment with Persona Features(Vetter, Kaczér, Flek, Mai):用 persona 特征对涌现失对齐现象做训练数据归因
- How Much Sonority Structure Do Phonotactic Language Models Learn from Distribution?(Xu, Giulianelli):音位配列模型能从分布中学到多少响度结构
- A circuit for predicting hierarchical structure in-context in Large Language Models(Saanum, Demircan, Gershman, Schulz):LLM 中语境化预测层级结构的电路机制
「研究」频道最新
- SARL：用自评估强化学习教会搜索智能体识别信息缺口 — Taewhoo Lee · 2026-10-29
- CMU 与微软推出 AdaPRA：自适应评分的过程监督让数据科学智能体更靠谱 — CarnegieMellonU · 2026-10-29
- Ben Lorica：AI 应该「造机器人」而非只驱动，世界模型思路遭挑战 — bigdata · 2026-10-29
- 单个神经元决定人设：Tulu 3 8B 的第14层3851号神经元激活即变脸 — menhguin · 2026-10-29
- 28 个模型数据：知识广度与智能指数相关性 r=0.86，无欠训练小模型 — teortaxesTex · 2026-10-29
- 研究者实测：AI 辅助同行评审远超纯人工，临床评审无 AI 反而危险 — anshulkundaje · 2026-10-29