新预印本:语法性是语言模型表征中的涌现组织原则
TuhinChakr · x · 2026-09-18
Najoung Kim 等人的新预印本研究语言模型表征中语法性是否为主要组织原则。核心发现:许多神经语言模型(NLM)在表征中呈现出对语法性的抽象分离(grammaticality 与其他因素解耦)。
- 关键贡献是对既往测量模型语法知识的争论做了去混淆(deconfound)处理,把语法性从影响通用概率的因素中剥离出来。
- 作者认为这为「LM 到底对语法敏不敏感」这一前置争论提供了更细致的答案,或有助于重新审视相关辩论。
所属事件:新预印本：语法性是语言模型表征的涌现组织原则(2 条相关)→
「研究」频道最新
- 规模化具身基础模型实现无人机零样本全自主飞行 — AkshatS07 · 2026-09-18
- 研究发现多模态模型内部存在「空间工作区」：左右上下远近被编码成线性子空间 — jiqizhixin · 2026-09-18
- 经济学家提议:用 AI 审计预分析计划执行,遏制 p-hacking — paulnovosad · 2026-09-18
- Google 发布 Dream RSI 论文:智能体必须「做梦」才能递归自我改进 — Saboo_Shubham_ · 2026-09-18
- 斯坦福 Marin 开放实验室直播训练 535B 模型,十人团队全程公开 — wandb · 2026-09-18
- CAIS 发布 HLE-Rolling:持续更新的「人类最后考试」替代版 — devindkim · 2026-09-18