呼吁AI对齐框架转向“纵向”测量，发现长期风险
996roma · x · 2026-08-15
针对 ChatGPT 发布以来聊天机器人日益融入生活的现状，作者及其合作者呼吁在对齐框架中转向“纵向”测量与缓解策略。当前的短期对话评估完全无法覆盖认知衰退或情感依赖等仅在长期暴露后才显现的风险。
所属事件:论文呼吁AI对齐转向纵向测量，关注用户长期福祉(5 条相关)→
「研究」频道最新
- MIT 生物系联合计算学院招聘计算生物学助理教授，欢迎生成式 AI 方向 — anshulkundaje · 2026-10-16
- 开发者在 Colab 持续预训练 Luganda 语小模型，8 小时跑到 41% — weskambale · 2026-10-16
- Sakana AI 推出 Agentic Scientist:用编码智能体自动化科学发现 — hardmaru · 2026-10-16
- MAI-Base-2 训练报告采用把 1/(weight_decay·lr) 视作时间尺度的缩放规则 — SeunghyunSEO7 · 2026-10-16
- 仅 108M 参数的文生图去噪模型 Surjo-Image-Preview 开源 — Consistent-Rule-3720 · 2026-10-16
- 19 个单位方块最优装箱问题有了 Lean 形式化证明 — ctjlewis · 2026-10-16