ctjlewis：对齐无法给出保证，阻止SI在经济上也不可能
ctjlewis · x · 2026-09-21
ctjlewis 在与 flawedaxioms 讨论超级智能风险时给出两点判断：
- 舒适的答案不存在：无论对齐与否、好坏与否、模型在哪，人类都无法获得想要的安全保证；我们的心智本就无法接受自己可能被更聪明的智能体取代位置，沦为"人类最好的朋友"。
- 唯一避免风险的方式是彻底阻止超级智能出现，但许多业内人恰恰在朝这个方向推进，且从经济逻辑看，这一进程也无法被阻止。
这是一段典型的关于超级智能不可控性的悲观派观点表述。
所属事件:ctjlewis 发文反驳超级智能灭绝风险论(10 条相关)→
「漫话AGI」频道最新
- Pedro Domingos 调侃「Dario 定律」：所需算力也在指数增长 — pmddomingos · 2026-11-12
- Jaron Lanier 纽约时报撰文：硅谷正用 AI 末日叙事搞砸自己 — databoydg · 2026-11-12
- AI agent 用得越多，瓶颈越是你自己：人类信息处理仅 10 bits/s — soumitrashukla9 · 2026-11-12
- Matt Pocock:能把业务讲清楚,AI 时代你就完成了半套自动化软件 — mattpocockuk · 2026-11-12
- 研究者提议:AI 进展评估应报告效率增益指标,而非只看最终跑分 — eliebakouch · 2026-11-12
- Bittensor 子网 NOVA 用「先做出药物资产」证明 AI 制药平台实力 — markjeffrey · 2026-11-12