Aidan Clark 称开放模型确有定向滥用风险
davidmanheim · x · 2026-07-21
作者认为，谨慎对待开放模型确实有说得通的理由。
- 对 GPT-2 来说，主要担忧是虚假信息；
- 他们认为这种风险本身是真实的，只是后来很多影响已经通过闭源模型体现出来；
- 对开源模型的担忧则更偏向定向滥用。
作者没有继续展开细节，只表示出于原因不能多说。
所属事件:GPT-OSS开源与安全策略激辩：风险预判与监管边界何在(22 条相关)→
「安全」频道最新
- 开发者质疑「中国模型不安全」报告：样本太薄且利益相关 — dbreunig · 2026-10-27
- Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输 — AccBalanced · 2026-10-27
- 已打补丁的 PC 为何仍加载 BlackX UEFI bootkit,附自查方法 — titusblair · 2026-10-27
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27