第三方评估难解 AI 安全争议,研究者呼吁公开训练细节
1a3orn · x · 2026-09-16
作者 1a3orn 认为,允许第三方评估机构进入 AI 公司虽然能在一定程度上缓解委托-代理问题,但既无助于科学进步,也无法建立行业公共知识。他在被引用的原帖中讽刺 AI 公司一边宣称 AI 极其危险,一边拒绝公开任何关于预训练数据、模型架构、后训练算法、RL 环境等实质信息。鉴于当前整个行业「在无知中挣扎」,他认为公开信息比引入评估方更重要。
所属事件:既造最强AI又喊危险？前沿公司双重话术引激辩(6 条相关)→
「漫话AGI」频道最新
- Domingos:火车准时又有何用,反正要冲下悬崖 — pmddomingos · 2026-09-16
- LLM 能否推理之争：X 上的怀疑派与拥趸互相空谈哲学 — dioscuri · 2026-09-16
- Pedro Domingos：AI 圈唯一失控的是末日论鼓吹者 — pmddomingos · 2026-09-16
- 微软 MAI 发布「人文主义 AI」行为准则,遭 Alignment 圈抨击 — amplifiedamp · 2026-09-16
- 多明戈斯回怼 Dario：它们不是巨兽，只是风车而已 — pmddomingos · 2026-09-16
- Richard Socher：没有任何现实场景能让 AI 灭绝全人类，末日论缺科学支撑 — dilipkay · 2026-09-16