合成数据新思路：用攻防压力逼 LLM 写出更好的形式化规格
jd_pressman · x · 2026-10-28
jdpressman 提出一个面向 AI 实验室员工的免费合成数据思路：让 LLM 先写“坏”的形式验证规格，再对其施加进攻性网络安全压力，然后在“修复为更好规格”的数据上训练，从而自我强化模型撰写高质量规格的能力。
这个想法源于他与 Ivan Vendrov 关于形式验证的争论：他认为爬升形式验证能力离不开一个有能力的对手来磨炼规格撰写，因此建议用网络安全对抗作为训练压力源。
「编程与Agent」频道最新
- 融资 870 万美元的 Jev 是炒作还是突破,深度拆解来了 — Kyrannio · 2026-10-28
- Warp 单 PR 成本从 80 美元降到 20 美元,吞吐量提升 40% — vikvang1 · 2026-10-28
- 2026 Python 类型调查:ty 使用率从 16% 飙至 37%,逼近 Mypy — charliermarsh · 2026-10-28
- 数据降温 AI 焦虑：最强 agent 仅完成 30.3% 任务 — AIFlow_ML · 2026-10-28
- 一个提示词让 Grok 机器人选项变成点按式交互 — majidmanzarpour · 2026-10-28
- 一键式工程开源工厂 SuperPlane 走红 GitHub,斩获 8.3k Star — Arindam_1729 · 2026-10-28