AI 创业者提出「信任天花板」:数万亿美元价值卡在不可信的 ML 上
williamtp · x · 2026-09-03
TrueGeoffrey/William Tunstall-Pedoe(AI 创业者,曾创办 Cleverbot 关联公司并出售 True Knowledge/Evi 给 Alexa 团队)发布长文《The Trust Ceiling》,转发并阐述其神经符号(Neurosymbolic)主张。
- 现状:ChatGPT、Claude、Gemini 等已能流畅对话、调用海量知识并推理,OpenAI 章程定义的 AGI(在多数经济价值工作上超越人类的高度自主系统)已可想象。
- 核心论点:幻觉、不准确、不一致、无法可靠解释结果,使 AI 卡在「信任天花板」之下——行业无法靠堆规模跨越这道线,数万亿美元价值和真正的 AGI 都堵在墙后;企业不会让不可信的 AI 全自动接管业务。
- 解法方向:把能力高但不可靠的 ML(「神经」)与能力有限但高度可靠的确定性软件(「符号」)结合,取两者之长。这是他系列两篇文章的第一篇。
「漫话AGI」频道最新
- 剑桥教授 David Krueger 炮轰 Dean 道歉:欺骗不是道个歉就行 — DavidSKrueger · 2026-09-03
- Anders Sandberg 将在 EAGx Oxford 谈 AI 时代的人类自主性 — anderssandberg · 2026-09-03
- 用 OpenEvidence 找到救父临床试验，回应 AI 无价值质疑 — saranormous · 2026-09-03
- Gary Marcus 讽刺 Altman 警告 AI 泡沫:制造泡沫的人自己喊泡沫 — GaryMarcus · 2026-09-03
- CoT 可监控性未被放弃,但新技术或致监控军备竞赛 — DavidSKrueger · 2026-09-03
- Sam Altman 在 G20 警告:网络安全若不紧急行动将出大事 — RebeccaBellan · 2026-09-03