吐槽:都想对齐 ASI,没人愿读百万 token 的 RL 轨迹
novasarc01 · x · 2026-09-14
一条 AI 圈吐槽:人人都想对齐 ASI,却没人愿意去读来自合成 RL 环境的上百万 token 的轨迹数据。暗指对齐工作的实际脏活(逐条审查轨迹)乏人问津。
「漫话AGI」频道最新
- Delip Rao 质疑 Stanford NLP 因利益纠缠不宜当 AI 评测仲裁者 — rao2z · 2026-09-14
- Wildeford：安全投入竞争劣势，AI 行业陷入失控竞速困局 — peterwildeford · 2026-09-14
- 博主质疑 Amodei 类比核管控:AI 基础科学落后核物理数十年 — ShahabBakht · 2026-09-14
- 借海湾危机类比 AI 双重用途技术管控:核式监管没那么简单 — ShahabBakht · 2026-09-14
- 美政府仍靠 COBOL 运行服务,网友畅想国有化 AI 实验室 — arian_ghashghai · 2026-09-14
- mark_k 放话:对齐若不能忠实执行用户意图就是空谈 — mark_k · 2026-09-14