安全研究者重申:前沿模型训练需政府监管与关停能力
davidmanheim · x · 2026-11-19
安全研究者 davidmanheim 在一场关于是否应暂停前沿模型训练的争论中重申立场:他多年来主张「把这一切关停」,恰恰是因为任何关停机制都需要数年才能落地,因此政府必须具备监督前沿训练、并在必要时关停的能力。
他进一步指出,即使现在停止后续训练,也无法改变已发布模型带来的现状——无论是对失控与人类监督失效的风险,还是网络安全风险,当前都「明显没有走上安全管理轨道」。
「漫话AGI」频道最新
- Tim Draper:AI 将淘汰晚期 VC,他们只是投资银行家 — arian_ghashghai · 2026-11-19
- AI 安全研究者 Manheim:应建立可监控并叫停前沿训练的政府能力 — davidmanheim · 2026-11-19
- 英国网红营销圈热议:英国是否该自研前沿大模型 — rosstaylor90 · 2026-11-19
- 凯恩斯 1930 年预言成真:技术效率增长快于劳动力吸收速度 — tobowers · 2026-11-19
- 研究者力挺 Anthropic:推演任何动态都会指向它是对的 — AaronBergman18 · 2026-11-19
- Erik Hoel 撰文反驳「意识无法定义」迷思:专家对定义其实高度一致 — koltregaskes · 2026-11-19