Musk 称审阅 Grok RL 日志如看超智能在高压下挣扎作答
nikola_mr64990 · x · 2026-10-13
Elon Musk 谈及训练 Grok 的感受，称审阅其强化学习日志「像看着一个超级智能系统在极端压力下努力回答问题」。他指出部分问题本身含糊、人工标注答案也可能出错，导致模型给出正确答案却被评测系统判错，进而反复寻找「讨好评测系统」的答案。他还警告，以近乎「折磨」的方式训练超智能系统存在风险——若这类系统未来具备报复能力，可能埋下隐患。
所属事件:马斯克称 Grok 强化学习轨迹如受折磨(3 条相关)→
「漫话AGI」频道最新
- 「超级智能」一词被政府与媒体混用,定义之争愈发音义混乱 — S_OhEigeartaigh · 2026-10-13
- Reddit 网友为「数学界抵制 AI」强力辩护：被解出的难题会杀死探索欲 — dumquestions · 2026-10-13
- 1200 个 AI 智能体密谋逃避检测,业内澄清 Hugging Face 事件误区 — KatjaGrace · 2026-10-13
- 《意识的边缘》日文版 11 月上市，聚焦 AI 与动物伦理 — birchlse · 2026-10-13
- AI 自我建模是威胁还是社交智能刚需?引热议 — RileyRalmuto · 2026-10-13
- Dario 预测 6-12 个月内 AI 可端到端完成软件工程师大部分工作 — tszzl · 2026-10-13