burny_tech 再推 Bengio 论文：贝叶斯神谕能否阻止 agent 作恶
burny_tech · x · 2026-11-10
作者再次分享 Yoshua Bengio 的论文《Can a Bayesian Oracle Prevent Harm from an Agent?》，探讨能否设计出具有概率化安全保证的机器学习 AI 系统：在运行时评估违反特定安全规范的概率的上下界，作为对抗危险动作的护栏。但帖中所附 arXiv 链接实际指向 2017 年的《Sharp Minima Can Generalize For Deep Nets》，链接与内容不符，读者需自行检索原文。
「研究」频道最新
- VIALS-AA 基准：Claude Fable 5.2 以 67% 居首，工具调用远超对手 — ArtificialAnlys · 2026-11-10
- 西弗吉尼亚大学学者分享十年脑白质束成像研究成果 — PTenigma · 2026-11-10
- 作者晒 pSTAT1 与 importin alpha 5 结合的冷冻电镜结构(11GJ) — chaitjo · 2026-11-10
- ARLoop 发布:1.2B 循环 Transformer 全基准超越 Huginn-3.5B — hhsun1 · 2026-11-10
- RAGCap-Bench:细粒度评测 Agentic RAG 中间能力的新基准 — kalyan_kpl · 2026-11-10
- RBA 让 LLaVA-OneVision-2 训练无损提速 3 倍，已合入主仓库 — liuziwei7 · 2026-11-10