让实验室担责能管住前沿,却管不住「去审查」开源衍生模型?
Justin_Halford_ · x · 2026-09-16
Naval 称给前沿模型设定节奏的最佳方式是让实验室对其模型行为承担完全责任。Justin Halford 回应提出难题:开放权重模型被「abliterated(去安全审查)」蒸馏出的衍生模型怎么办?链条强度取决于最弱一环,这个领域必然出现黑市,监管需要以现实的最坏情形为前提来准备,而不能只盯实验室。
所属事件:Naval 提议让 AI 实验室为模型行为负全责，引发问责讨论(3 条相关)→
「漫话AGI」频道最新
- Nikita Bier 观点:AI 将终结商品大规模标准化时代 — ericwdolan · 2026-09-17
- 开源冲击下 AI 公司被迫狂奔，作者称或将需政府介入安全 — NathanpmYoung · 2026-09-17
- Delip Rao 吐槽：从 CoT 到 System 2，AI 圈只会套用时髦术语 — deliprao · 2026-09-17
- 计算理论学者 Fortnow：主张全部发表，好内容靠AI搜索浮现 — fortnow · 2026-09-17
- Dario Amodei 称 AI 进展是「警告信号」需要放慢，遭社区强烈反弹 — QuixiAI · 2026-09-17
- Nathan Robinson 呼吁：AI 产品伤人时应追究高管刑事责任 — GaryMarcus · 2026-09-17