iamtrask：AI 归因问题比想象中更接近解决
iamtrask · x · 2026-09-19
iamtrask 提出 AI 归因（attribution）其实比大众认知的更接近被解决，因为解法并不自我标榜为归因工具：
- 推理阶段 → Shapley 值归因
- 后训练阶段 → LoRA 已经在按贡献分配价值
- 预训练阶段 → 层级（hierarchy）机制间接起作用
他进一步预测：未来大家会用私有数据微调开源模型，并注册到模型路由器上。得到的不一定是 AGI，而是「RGI」——被路由的通用智能（routed general intelligence），一个由窄智能组成的通用网络。这正是归因问题的间接解：你的模型因独有的知识被他人的 agent 网络调用时，你就能获得报酬。
所属事件:iamtrask：AI 归因问题比想象中更接近解决(3 条相关)→
「漫话AGI」频道最新
- AI 分析师：「中美 AI 军备竞赛对决」是当前最大误判 — menhguin · 2026-09-19
- Gary Marcus 炮轰：AI 安全「独立评估方」与被评对象有商业交易 — GaryMarcus · 2026-09-19
- 经济学家用 AI 语音面试投稿人，亲测通过自己的论文 — soumitrashukla9 · 2026-09-19
- AI 时代的学术圈正在分化为守门人、AI 信徒与策展人三大部落 — ipeirotis · 2026-09-19
- MIRI 的 Soares 推出 AI 进展辩论视频:帮大众更新过时认知 — PeterBowdenLive · 2026-09-19
- 1995年孩子预言互联网改变一切，网友称AI将复刻同一路径 — ardouronerous · 2026-09-19