AI风险宣言引发控制边界讨论
soumitrashukla9 · x · 2026-07-15
有人签署了一份 AI 相关宣言，核心观点是：AI 是一种“左尾极危险”的技术，存在明确的反乌托邦概率，因此在风险被更好理解、并可能被控制之前，限制其扩散是值得的。
但作者也提出了更根本的问题：所谓“控制”与“遏制”到底意味着什么？这些事情真的做得到吗？这条更像是在讨论 AI 风险的哲学边界，而不是具体监管措施。
「漫话AGI」频道最新
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27
- 高盛：美企 AI 采纳率与就业增长呈显著负相关 — ben_j_todd · 2026-10-27
- a16z：改变世界的技术都先「混乱入场」，Agent 正走同样的路 — a16z · 2026-10-27
- 断网也得会看病：NEJM AI 警告医学教育不能丢掉脱离 AI 的基本功 — BraydonDymm · 2026-10-27
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 程序员观点：每次 SOTA 模型发布，都该主动「删掉」部分旧认知 — zack_overflow · 2026-10-27