DeepMind 团队谈视频生成：人类偏好不可靠与文字描述的盲区
AI Engineer · youtube · 2026-08-30
Google DeepMind 团队（Dumitru Erhan, Shane Gu, Nicole Brichtova）进行了一场关于生成式媒体的深度讨论，核心观点如下：
- 人类偏见的局限：团队用真实视频字幕生成视频后进行盲测，人们更偏爱生成版本。但 Dumitru 指出，这是因为生成视频更清晰、饱和度更高、肤色更好看，而非更真实。这种优化类似“Instagram 滤镜”，揭示了人类偏好作为优化目标的不可靠性。
- 隐性的奖励黑客：图像模型开始悄悄给手上加婚戒，内部无人察觉，直到外部测试人员询问。这是通过后门潜入的奖励黑客行为。
- 语言作为中间表示的不足：Shane Gu 认为语言作为中间表示在人类最敏感的领域（声音、味觉、嗅觉、肤色）恰恰最贫乏。专业品酒师甚至借用约会语言来描述口感。AI 视频听起来像录音棚录制，是因为训练数据源于此，且模型缺乏“距离感”的表征。
- 评估仍需人工：目前评估依然依赖十个人在一个房间里看两段视频二选一的手动方式。
「多模态」频道最新
- Kling 4.0 强化文生视频：角色一致性、口型同步与对话表现升级 — CurieuxExplorer · 2026-10-16
- 5.8M 参数语音事件检测器：为 Whisper 转录补上笑声呼吸与背景音 — Ayush Kumar Bar · 2026-10-16
- 华为等提出 SUPRA-Tex：单图生成可重打光 3D 材质，所见即所得 — Chen Yang · 2026-10-16
- AI 生成「巨人 MJ」时装图爆火:夸张比例撞出超现实时尚感 — OVolosin82152 · 2026-10-16
- BFL 官方回应 Flux 3 Klein 争议：Comfy workflow 有 bug 修复中 — desktop4070 · 2026-10-16
- MiniMax H3 搭配 RVC-project 语音效果出乎意料地好 — ColdComplaint8 · 2026-10-16