iamtrask：AI 归因的三层方案——Shapley、LoRA 与预训练层级
iamtrask · x · 2026-09-19
iamtrask 认为 AI 归因（attribution）比想象中好用，并给出三层的可操作方案：
- 推理归因 → 用 Shapley 值
- 后训练归因 → 用 LoRA（每个贡献者的数据对应独立 LoRA 适配器）
- 预训练归因 → 利用数据层级结构
他的展望：未来大家会用私有数据微调开源模型并注册到路由器上，得到的不是 AGI 而是「RGI」（routed general intelligence）——一个由窄智能组成的一般性网络。模型的收益来自 Swarm 中别人想调用它所独有的知识，这间接解决了大部分 AI 归因/报酬分配问题。
所属事件:iamtrask：AI 归因问题比想象中更接近解决(3 条相关)→
「漫话AGI」频道最新
- Jeff Ladish:对齐超级智能可理解,「控制」它我没想通 — JeffLadish · 2026-09-19
- AI slop 时代的另一面:人类写作将被机器完整阅读吸收 — yeastsplainer · 2026-09-19
- 观点:能被轻易自动化的工作,本就不算真正的知识工作 — sebpaquet · 2026-09-19
- Anthropic 发布三项公开指标,量化「AI 造 AI」的真实速度 — minchoi · 2026-09-19
- MIT 转发论文：意识或依赖生物电场模拟计算，LLM 因此不算有意识 — burny_tech · 2026-09-19
- AI 幻觉险酿冲突:美舰一度拟登检被幻觉捏造核部件的中国货船 — polymute · 2026-09-19