Gary Bernhardt:LLM 擅长找漏洞,却不擅长系统设计
sidjustice_ · x · 2026-10-23
引用 Gary Bernhardt 的观点:LLM 擅长发现漏洞利用、却不擅长系统设计,这精准概括了它们整体的能力边界——擅长对有界任务进行不懈重复,因此能产出可运行的代码(包括 exploit);不擅长整体性理解,因此不知道什么是"好的"。转发者称其为"精辟观察"。
「漫话AGI」频道最新
- Pedro Domingos 预测：2027 年将是史上修复安全漏洞最多的一年 — pmddomingos · 2026-10-23
- 作者用 AI+Lean 做定理证明遇挫：OpenAI 数学突破靠非形式化推理 — Singularitarian · 2026-10-23
- Beff Jezos：需要一套持续自适应智能体组成的「网络免疫系统」 — beffjezos · 2026-10-23
- Pedro Domingos 放话：强化学习解决不了泛化解决不了的问题 — pmddomingos · 2026-10-23
- AI 时代论文写作新困境：讨好人类读者还是 LLM 审稿人 — JeremyNguyenPhD · 2026-10-23
- 安全专家：网络罪犯不是天才工程师的镜像，AI 原生犯罪集团没那么快来 — joshua_saxe · 2026-10-23