DeepMind等机构联合提出贝叶斯框架评估AI意识,现有LLM评分1%-80%
mhutter42 · x · 2026-09-29
Shamil Chandaria、Anil Seth、Marcus Hutter、Shane Legg 等 14 位研究者发布 arXiv 论文《From cacophony to hierarchy》,提出一个评估 AI 意识能力的原则性框架,并配有书长度实用指南和交互式工具。
核心思路:
- 把「困难问题」与「映射问题」分离,搁置最深层的形而上学分歧,专注于经验所依赖的组织结构处于哪个描述层级。
- 将 Marr 的三层分析扩展为五层功能描述层级:行为、计算、内在因果结构、有机体、有机体-环境,基于随附性、粗粒化和多重可实现性。
- 各大意识理论按其认为关键的层级被定位在 hierarchy 中,并为每层开发可操作化的指标。
- 用贝叶斯模型将理论信念度与指标证据合并为对系统意识能力的总体信念度。
在示例评估中,当前 LLM 的得分在 1% 到 80% 之间,结论很大程度上取决于理论信念度被放在哪个层级。
所属事件:DeepMind 联合学者发布 AI 意识评估框架(4 条相关)→
「漫话AGI」频道最新
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 律师抱怨:AI 让当事人预期失真、引用假判例、动辄质疑律师 — hoofnagle · 2026-11-16
- 开发者驳'失控 AI'论:补贴式订阅撑不起昂贵 AI 集群 — gerardsans · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16