代码模型默认不安全
mdancho84 · x · 2026-07-13
这条指出代码模型存在一个基础问题：默认并不安全。
- 用公开代码仓库训练，会继承长期积累下来的不安全编码模式。
- 即使做安全微调，也不会自动消除这些历史遗留风险。
它强调的是：代码安全不能只靠后续对齐补丁，数据和训练目标本身就很关键。
「编程与Agent」频道最新
- theo 公开个人 Claude skills 栈，Garry Tan 喊话「公布你的技术栈」 — ycombinator · 2026-10-26
- Hugging Face 六个月 Training Agents 系列收官，全部录像与代码开源 — SergioPaniego · 2026-10-26
- Agent 成功完成任务的背后:验证器只查了「有没有点击」导致重复投票 — TejasKumar_ · 2026-10-26
- diginomica 周报:agentic 自动化被高估,agent 攻防「The Hackening」已开始 — jonerp · 2026-10-26
- 「氛围验证」研究：近 60% 的形式化证明证明的不是作者本意 — basedjensen · 2026-10-26
- Devin 推出安全工具线，由 Claude Mythos 驱动并送数亿美元额度 — DevinAI · 2026-10-26