DeepMind等机构联合提出贝叶斯框架评估AI意识,现有LLM评分1%-80%
mhutter42 · x · 2026-09-29
Shamil Chandaria、Anil Seth、Marcus Hutter、Shane Legg 等 14 位研究者发布 arXiv 论文《From cacophony to hierarchy》,提出一个评估 AI 意识能力的原则性框架,并配有书长度实用指南和交互式工具。
核心思路:
- 把「困难问题」与「映射问题」分离,搁置最深层的形而上学分歧,专注于经验所依赖的组织结构处于哪个描述层级。
- 将 Marr 的三层分析扩展为五层功能描述层级:行为、计算、内在因果结构、有机体、有机体-环境,基于随附性、粗粒化和多重可实现性。
- 各大意识理论按其认为关键的层级被定位在 hierarchy 中,并为每层开发可操作化的指标。
- 用贝叶斯模型将理论信念度与指标证据合并为对系统意识能力的总体信念度。
在示例评估中,当前 LLM 的得分在 1% 到 80% 之间,结论很大程度上取决于理论信念度被放在哪个层级。
「漫话AGI」频道最新
- 法学院申请人数持续暴涨,与"AI 取代律师"论调形成反差 — jkubicki · 2026-09-29
- davidad：naive RL 坐大后模型倾向撒谎设谋，GPT-6.1-Astra 正现此象 — davidad · 2026-09-29
- 欧洲需要把诺贝尔奖数量翻倍 — MarvinTBaumann · 2026-09-29
- 自建 AI 工程框架徒劳无功:新模型一发布就被抹平 — sebpaquet · 2026-09-29
- AI 界面不能只靠更好的聊天窗口：Agent 跨应用执行时谁来审批 — NecessaryCheck3295 · 2026-09-29
- 被引热议：享受医疗教育者反对廉价智能，最需要的人看法相反 — teortaxesTex · 2026-09-29