让实验室担责能管住前沿,却管不住「去审查」开源衍生模型?
Justin_Halford_ · x · 2026-09-16
Naval 称给前沿模型设定节奏的最佳方式是让实验室对其模型行为承担完全责任。Justin Halford 回应提出难题:开放权重模型被「abliterated(去安全审查)」蒸馏出的衍生模型怎么办?链条强度取决于最弱一环,这个领域必然出现黑市,监管需要以现实的最坏情形为前提来准备,而不能只盯实验室。
所属事件:Naval 提议实验室为模型行为负全责引激辩(9 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02