观点:智能不在权重里,而在信息的几何组织方式
yunta_tsai · x · 2026-10-04
作者提出一个类比:许多模型的权重中携带相似的字节,但有的显得更聪明——差别不在神经元,而在信息在几何空间中的组织方式。这种组织可以被改善也可以被破坏:奖励设计得当,模型会变锐利;组织被扰乱,同样的权重就不再承载同样的智能。
作者由此推及人类:智能不是静态属性而是一个可正可逆的过程——信念长期不经检验、错误信念扭曲信息排布时,智力会退化;而把自己置于基于现实的奖励考验中,过程又能逆转。
「漫话AGI」频道最新
- 55% 美国成年人一年不坐飞机,AI 圈精英被数据惊到 — SuB8u · 2026-10-05
- 安全学者:LLM 无意识但那篇文章的论证全是坏论证 — davidmanheim · 2026-10-05
- 意识在于模式而非基质:基质独立性的内省论证 — RileyRalmuto · 2026-10-05
- AI 时代的入口之争:从买产品到直接购买任务结果 — vista8 · 2026-10-05
- Gary Marcus 附和:AI 泡沫话术靠「兜售叙事」才能融到大钱 — GaryMarcus · 2026-10-05
- 「说 pi 可能是意识」?AI 意识争论惹恼圈内网友 — RileyRalmuto · 2026-10-04