OpenAI出身的trask：没权限看训练数据，对齐研究就是摸黑找解药
iamtrask · x · 2026-09-05
Andrew Trask（iamtrask）连发观点指出：解决对齐问题需要接触AI公司最秘密的资产——不是模型权重，也不是用户日志，而是训练数据。他认为，如果研究者在对齐工作中无法不受限制地访问训练（和RL）数据记录，就像在黑暗中摸索——好比不准研究毒药却要找解药，并非不可能，但难度大得多。因此他推断，对齐的解法大概率只能出自少数几家AI公司最核心、最受信任的研究者之手。
所属事件:iamtrask：对齐本质是数据问题，训练数据封锁阻碍研究(7 条相关)→
「漫话AGI」频道最新
- GPT-6 Astra 引发争论:AI 末日论者与泡沫论者谁是赢家 — JOBhakdi · 2026-09-05
- 数学家称同侪重名刊名校轻真理，AI 证明引文化反思 — avt_im · 2026-09-05
- WSJ：企业 CIO 界认为我们正进入通用人工智能时代 — israelavila · 2026-09-05
- 8 个月追踪后研究者下结论：人格选择模型在 RL 中预测失灵 — BronsonSchoen · 2026-09-05
- 「随机鹦鹉」进化了：演示 LLM 能力已需动用 3D 和游戏 — airesearch12 · 2026-09-05
- 爱丁堡外卖骑手控诉算法压低收入,吁平台打开 AI 算法黑箱 — nordicinst · 2026-09-05