GPT-6 改权重争议软证据:仅靠三四道玩具题撑结论
maier_ak · x · 2026-11-05
Andreas Maier 对 MIT CSAIL「权重空间编程」博文的软证据部分提出质疑:所谓模型能「读懂」网络行为的结论,建立在仅为可读性设计的玩具任务上各 4、3、3 次正确回答;谄媚性(sycophancy)实验从权重 alone 出发失败;仅用一个模型,每个条件基本只跑一次,且缺少简单基线。结论:「Sparks(火花)」式描述成立,但「取代优化器」尚未被证明。
所属事件:学者核查 GPT-6「权重空间编程」博文质疑其证据强度(2 条相关)→
「研究」频道最新
- 字节研究揭示 on-policy 蒸馏盲区:分布外能力仍落后基座模型 — ByteDance · 2026-11-05
- 42 位物理学家出题：FrontierPhysics 基准端到端评测 AI 科研智能体 — Bingran You · 2026-11-05
- VideoMemBench 揭示 MLLM 跨轮视频记忆能力存在明显短板 — Zhengdong Hu · 2026-11-05
- Muon-RT 用教师轨迹替代动量缓冲，微调省显存还涨 2.6 分 — IITK · 2026-11-05
- 上海 AI 实验室开源 Self-Harness：Agent 自查失败记录，零重训提分 54 个百分点 — Promptmethus · 2026-11-05
- Cartridges 团队提出「Self-Study 是移动目标」:无标签度量优化 KV 缓存压缩 — simran_s_arora · 2026-11-05