Conitzer 发表 IEEE 文章:研究者对递归自改进后果想象各异
conitzer · x · 2026-11-12
AI 研究者 Vincent Conitzer 为《IEEE Intelligent Systems》撰写了一篇关于递归自改进(recursive self-improvement)的文章,探讨研究者们对其可能引发的后果持有截然不同的模型/想象。他透露目前最流行的部分是一个类比:如何向你的狗征求意见——该搬去日本还是土耳其——以说明「用低能力系统评估超出其理解范围的决策」的困境。
所属事件:Conitzer 论文：递归自我改进尚无安全框架(3 条相关)→
「漫话AGI」频道最新
- Peter Diamandis：被 AI 取代的人将成为教 AI 的下一批人 — PeterDiamandis · 2026-11-12
- Adobe MAX 后设计师反思：AI 工具再强，这 10 项基本功仍不可替代 — rufusd · 2026-11-12
- 经济学家：AI 是超强「摸鱼技术」，不可观测处人人卸责 — _akpiper · 2026-11-12
- 速度终会成为质量：AI 转型为何卡在 U 型曲线左侧 — hazelcough · 2026-11-12
- RL 先驱 John Langford 加入 Core Automation,押注智能体自动化实验室 — JohnCLangford · 2026-11-12
- 人类是加法心智,AI 是减法心智:预训练装满知识,RL 雕出性格 — _Stocko_ · 2026-11-12