Thinking Machines 提出开放权重模型的安全路径
luke_drago_ · x · 2026-08-25
Thinking Machines Lab 发布博文探讨“通往开放权重的安全路径”。文章主张开源模型是公共品，能增加透明度并去中心化开发，但同时也面临不可逆的滥用风险。
核心观点：
- 模型层面：进行稳健的安全测试，研究是否可以将危险能力与通用智能解耦。
- 生态层面：通过分阶段发布、支持防御者以及与安全研究人员合作来提升生态系统的抗风险能力。
- 策略：通过迭代选择证据支持的最开放选项，同时建立生态系统的韧性，以安全地走向开放。
该实验室最近发布了开源模型 Inkling 和 Inkling-Small。
「安全」频道最新
- XBOW Chrome 全链路漏洞动画拆解：三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- 前白宫网络副顾问创办 SAIF 非营利组织，a16z 创始人注资 2500 万美元 — vishalmisra · 2026-10-15
- Apollo 首见：GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 纽约市投 3000 万美元建量子实验室,换 15% 收益分成 — TuhinChakr · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- FTC 调查要点曝光:每份问卷超 50 页,索要营销材料与隐私政策 — neil_chilson · 2026-10-15