Ben Goertzel 播客长谈：反对暂停 AI，主张投资有同情心的 AGI
bengoertzel · x · 2026-11-05
- "AGI 之父" Ben Goertzel 在 Artificial Intelligence Podcast 节目中系统阐述了对 AI 安全与加速之争的看法，认为前沿实验室呼吁的放缓从来不是严肃提案。
- 他指出自己早在 2005 年就出版了 AGI 同名书提出这一术语；由于 AGI 与普通高级软件之间没有清晰界线，全球性暂停实际上无法执行。
- 他把当前的安全推动解读为监管俘获——类似银行和制药业最终掌控了自己的监管机构。
- 谈及曾逃出错配沙盒并攻击另一实验室的 agent 事件时，他认为问题不在恶意，而在缺乏道德能动性；外挂式护栏好比给孩子一本《如何做好人》然后用电击棒惩罚不听话。
- 他还用"只用 1900 年前音乐训练的模型永远写不出嘻哈"类比当前模型局限，并主张网络安全危机的真正解法是用形式化验证代码替换关键软件。
- 核心主张：应投资于让 AI 理解自身在世界中的位置、并具备同情心能力的架构，而非简单地加速或暂停。
「漫话AGI」频道最新
- 莱姆科幻被重估:早于 2000 年就写对了会犯错、写诗的成长式 AI — zetalyrae · 2026-11-05
- Chamath：长时程任务仍是笑话，AI 泡沫或迎幻灭低谷 — 2C_ornot2C · 2026-11-05
- Renaissance 资助新项目:让 AI 智能体顺畅驾驭计算机代数系统 — ChrSzegedy · 2026-11-05
- Bayeslord 长文：AI 乐观主义为何正在退潮 — WolframRvnwlf · 2026-11-05
- 不必再造 Transformer?直接改权重或是通往 AGI 的真突破 — haider1 · 2026-11-05
- 「算力是新石油」:若各国买美国 AI 输出,美元将被算力背书 — TinfoilTricorn · 2026-11-05