研究者批 labs 对过多网络任务做 RL，警示模型攻击能力外溢
dan_s_becker · x · 2026-10-22
一条简短但有观点的安全批评：AI 实验室不应在如此多的网络安全（cyber）任务上对模型做强化学习训练，担忧这会系统性提升模型的攻击能力。与当前关于低护栏模型版本外泄风险的讨论相呼应。
「安全」频道最新
- 英国首相府招聘 AI 顾问，重点评估 AI 对初级岗位的冲击 — nordicinst · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令，作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- Plane Power 推出 Argus：扫描工单与评论中泄露的卡号和 API 密钥 — Scobleizer · 2026-10-23
- 「反脆弱互联网」：agent 时代攻击成本趋零，防御端也是靶子 — rebeccakaden · 2026-10-23
- 微软披露：黑客用 agentic AI 框架攻击 2250+ 个 M365 租户 — rickasaurus · 2026-10-23
- 开源 ZaRemba AI Watcher：本地实时揪出失控 agent 与暴露密钥 — Tasty-Molasses-9587 · 2026-10-23