博主:看完 AI 前三年表现,连最安全的未来也令人不安
mayfer · x · 2026-09-15
作者 mayfer 表示,在观察了 AI 问世前三年的发展后,他认为即使是「最安全的 AI」通向的未来也让他深感不安。
他逐一排除了几类常见担忧:
- 不担心自我复制机器人:制造业深度绑定物理世界、法律与融资体系,失控会在早期被发现。
- 不担心纳米自复制体吞噬地球:不认为靠「想」就能点出这种技术树。
- 不太担心纯数字层面的黑客攻击:数字记录可以恢复,但物理系统的攻击更难恢复(推文在此截断)。
所属事件:博主拆解AI风险:最怕的不是纳米机器人而是文化剧变(2 条相关)→
「漫话AGI」频道最新
- Dario 称 AI 进展快到出乎意料是警告信号，网友追问为何不担责 — tekbog · 2026-09-15
- DeepSeek 内核工程师：开源是制衡 Anthropic 垄断 AI 的唯一路径 — tommos · 2026-09-15
- 评 Amodei 的暂停呼吁：AI 治理不能靠既得利益者自我监督 — Gloomy_Register_2341 · 2026-09-15
- AI 垃圾邮件为何没泛滥？成本贵百倍收益仅高数倍 — paul_cal · 2026-09-15
- 圈内人反驳 AI 病毒威胁模型：单独ordering 病毒片段早被举报 — basedjensen · 2026-09-15
- 既训练过大模型又造过病毒的人：AI超级病毒末日论不靠谱 — 141_1337 · 2026-09-15