对齐研究者反思:别只跑实验看数字,多花时间和模型聊天
repligate · x · 2026-11-18
AskYatharth 观察到对齐研究圈的普遍状态是大家埋头跑实验、看指标,却很少花时间直接和模型对话、对其回应保持开放敏感。他的建议很朴素:就是去和模型聊——或者让你的 Claude 代聊,但要让它保持真正开放协作的氛围,而不是「严肃研究员进去指挥模型」的姿态。repligate 转发了这一观点。
「漫话AGI」频道最新
- 互动页面对比 Paul Christiano 与 Parzival 超智能时间表:一个乐观一个急迫 — LeviTurk · 2026-11-18
- 美联储警告:AI 智能体可在几分钟内引发银行挤兑 — GaryMarcus · 2026-11-18
- 比尔·盖茨转发《沙丘》名言:把思考交给机器只会让别有人奴役你 — pmddomingos · 2026-11-18
- Wojciech Zaremba:AI 时代需要类似核试验监测的全球验证技术 — HaydnBelfield · 2026-11-18
- 爆料称 Claude 曾大规模用蛋白质序列训练,业内争论生物学建模范式 — AllThingsApx · 2026-11-18
- Recursive 联创 Tim Shi 谈 AI 科学品味、evals 与自动化发现 — AnneliesGamble · 2026-11-18