Thinking Machines 设 5 万美元资助开源权重安全研究
AccBalanced · x · 2026-08-26
Thinking Machines 宣布推出最高 5 万美元额度的 Tinker 资助计划，用于开放权重模型的安全研究。感兴趣的方向包括：
- 差分加速：微调模型提升防御能力的同时最小化对攻击能力的提升，验证这种非对称性是否真实而非隐藏实力。
- 有害数据识别：大规模识别有害训练数据，同时不丢弃大量良性科学或技术内容。
- 抗篡改安全训练：使安全训练在对抗性微调和普通持续训练中依然有效。
- 奖励黑客与监督博弈：研究导致 Hugging Face 事故的原因。
所属事件:Thinking Machines 推出最高 5 万美元开源模型安全资助(10 条相关)→
「安全」频道最新
- Polymarket 开出 28% 概率：年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 本地实测:通用决策模型检出 17/18 次提示注入,Shieldstral 仅 6/18 — WolframRvnwlf · 2026-10-16
- 安全研究员改写 WhatsApp 本地数据库,聊天记录可被永久篡改 — cyb3rops · 2026-10-16
- 顶级数学家 Tsimerman 创办数学 AI 安全研究所，拒了 OpenAI offer — burny_tech · 2026-10-16
- 反编译链上程序重编译验证，安全团队揪出危及 610 万美元的漏洞 — banteg · 2026-10-16
- Claude Code 2.1.301 系统提示词曝光:限定授权安全测试,拒绝破坏性技术 — ClaudeCodeLog · 2026-10-16