AI 安全研究中对熵表达式解构的反思
AdaptiveAgents · x · 2026-08-25
作者指出 AI 安全领域存在一种 cottage industry（小众产业），热衷于将熵表达式分解并赋予“过剩惊讶”或“外在价值”等概念。作者认为这很酷，但也期待有人能勇敢地对概率本身进行同样的解构尝试。
「研究」频道最新
- 科研 AI 需打破高概率轨迹依赖，建立现实世界验证闭环 — manoelribeiro · 2026-08-25
- WorldMind：解耦游戏世界模型实现状态感知 NPC — Zhiyang Deng · 2026-08-25
- Nature 发布机器学习概率天气预报模型 — pastramimachine · 2026-08-25
- Moderna 披露如何利用 AI 加速 mRNA 疫苗研发 — alex_verem · 2026-08-25
- Moderna 试验显示 AI 辅助 mRNA 疗苗将癌症复发率降 49% — alex_verem · 2026-08-25
- RL 练习：用 LLM 指导装箱问题启发式算法 — cephaloform · 2026-08-25