Dario Amodei 警告开源模型危险:可随时监控、吊销用户权限
mark_k · x · 2026-11-18
Dario Amodei 谈开源模型:「如果这条路继续走下去,我们可能进入一个非常危险的境地。」
他的核心论点:
- 受控部署的模型让厂商有能力监控使用情况、吊销用户访问权限、改变模型愿意做的事;一旦模型以不受控方式发布,这些能力就完全失控。
- 他主张直面开源倡导者并要求他们解决这个监管缺位问题。
帖子作者与转发者(SebAaltonen、markk)对此提出批评:为什么要把全人类的知识库交给一个可以随时掐断访问的巨头?这是 Dario 在宣扬人人被持续监控的反乌托邦。帖中还提到 Sam Altman 关于「RAM 不应无限期向所有人开放」的表态与之呼应。
所属事件:Anthropic CEO 警告开源模型危险,遭投资人反击(7 条相关)→
「漫话AGI」频道最新
- 限制递归自我改进算力:有研究者提议 90% 算力须用于公益 — trevposts · 2026-11-18
- AI 助理 Fo 四周帮用户发现并预订 3.5 万家商户 — thetripathi58 · 2026-11-18
- 模型知道自己被评估时,对齐 eval 还能信吗 — trevposts · 2026-11-18
- 硅谷反思 Leopold Aschenbrenner:制造声势容易,多年交付回报难 — PAstynome · 2026-11-18
- repligate 转发:反对把机器神当价值灌输工具 — repligate · 2026-11-18
- Perlroth 警告:AI 自主渗透测试工具将攻击门槛降到零 — danielrock · 2026-11-18