AI 安全争论升级：有研究者认为某些系统该先停下来
BlancheMinerva · x · 2026-07-27
这段对话讨论的是：如果 AI 能力继续推进，但行业又 没有做足够的安全工作，是不是应该继续往前走。
BlancheMinerva 的意思不是反对安全研究本身，而是反对对那些没人愿意真正把它做安全的系统继续投入研究，并直言也许应该先 停止继续做这件事。
回复里，JJitsev 则拿核、生物、化学等技术作类比，认为过去每次强大技术出现时都会伴随安全研究轨道，质疑为什么 AI 在高风险下会不同。
所属事件:AI研究伦理激辩：训练强智能体是否道德(7 条相关)→
「漫话AGI」频道最新
- DHH 讲 Basecamp 380 小时做成与 AI 未来判断 — alexmacgregor__ · 2026-07-27
- 一条转发帖质疑：几乎没人认真论证 AI 会安全 — austinc3301 · 2026-07-27
- 学者警告 AI 军备竞赛：失控 AI 不符合任何国家利益 — DavidSKrueger · 2026-07-27
- 有人指出，AI Futures 的“减速”方案仍隐含极高 GDP 增长 — davidmanheim · 2026-07-27
- 施密特称开源权重或比闭源基准决定未来 50 年 AI — r0ck3t23 · 2026-07-27
- 当 AI 叙事比亲历更真实时会怎样 — PierceLilholt · 2026-07-27