CMU 新设 Looni Lab：盯上长程、分布外、不可验证任务
niloofar_mire · x · 2026-11-12
CMU 的 Niloofar Mireshghallah 成立 Looni Lab（LOONI = Long-horizon, Out-Of-distribution, Non-verifiable Intelligence），聚焦三大方向：
- 隐私与社会智能：基于结果与仿真的隐私度量、心理健康与 AI、物理世界隐私，合作者含 CMU、KAIST、USC、Stanford 等。
- AI for Science 与化学：长程经验学习、记忆与探索、双用与安全、3D 结构推理，与布鲁克海文国家实验室等合作。
- AI 安全、可验证性与监测：硬件侧信道验证工作负载、模型内部承诺点、蒸馏与模型谱系、野投毒推理链的迁移。
实验室还给出各方向的开放问题清单与成员名单。
「研究」频道最新
- 猜猜四种梯度分布：一张图考倒 AI 圈的机器学习基本功 — cneuralnetwork · 2026-11-12
- 3 个神经元控制 Gemma4 的关怀与蔑视，向量文件不到 70KB — New_Alps_5655 · 2026-11-12
- MIT 可微分声学模拟器：从录音反推 32 段声管形状 — maier_ak · 2026-11-12
- Google 抢发 Gemini Decision 1：单次决策模型 0.1 美元/百万 token — Latent Space · 2026-11-12
- MIT 用合成数据训练气候 emulator，数据量仅零头却更准 — MIT News AI · 2026-11-12
- CoRL 2026 开设「持续自我改进机器人」工作坊,倡导体验时代范式 — chris_j_paxton · 2026-11-12