开发者观点:ASI 不会杀人,AI 安全真正课题是技术红利分配
tobowers · x · 2026-09-14
tobowers 提出，当前 AI 安全讨论聚焦错了对象——ASI 并不会直接杀死人类。真正的风险在历史规律中：农业革命和工业革命都给人类留下了深刻创伤，因为「先进的那批人从未回头帮助其他人」。
他认为这个时代的 AI 安全应关注的问题是：如何让机器创造的丰裕惠及大多数人，而不只是少数人。
「漫话AGI」频道最新
- 吐槽:都想对齐 ASI,没人愿读百万 token 的 RL 轨迹 — novasarc01 · 2026-09-14
- 哈佛教授开学第一课论证「AI 不会杀死我们」，称恐慌是营销骗局 — Wrong_Swimming_9158 · 2026-09-14
- 四大 AI 实验室约定「限制前沿」，网友比喻：学霸说没复习你信吗 — Yuchenj_UW · 2026-09-14
- Yacine 畅想：擅长写超快模拟器加训 RNN 的 LLM 是种有趣超智能 — yacineMTB · 2026-09-14
- 对齐段子：人类自己都对不齐，谈何 AI 对齐 — Pseudomanifold · 2026-09-14
- 从业者观点：对齐不难但缺算法，RL 难以直接优化「不伤人」目标 — MillionInt · 2026-09-14