开发者称发现 LLM 内核代码 600+ 漏洞,Claude 以安全为由拒答
pmddomingos · x · 2026-10-31
知名学者 Pedro Domingos 转发并评论「Dario,我们有麻烦了」。被引用的开发者称,他在为 LLM 生成的内核(kernel)代码构建漏洞挖掘工具,已发现 600 多个 bug 且每小时都在递增,不知如何向厂商报告。当他让 Claude 将这些 bug 与已合并的 PR 做交叉比对时,回答因「安全」原因被拦截——他愤怒表示「我是在帮你们做安全!」。该事件引发对 AI 安全护栏误伤安全研究的讨论。
「模型」频道最新
- Anthropic 递交纳斯达克上市申请，半年营收 163 亿美元同比增 12 倍 — DeepLearningAI · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- 14 个模型测 960 项分析师任务:做分析近满分,选股不如随机 — HeyAmit_ · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- 四款 GPT-6 系列模型同台比拼像素画生成效果 — Angaisb_ · 2026-10-31
- Perplexity 员工公开征集:发来任务,让 decider 做 SOTA — antoine_chaffin · 2026-10-31