研究者称 Anthropic 生物安全过滤器误伤,无法用模型推理大型代码库
josephdviviano · x · 2026-11-09
研究者 josephdviviano 表示,Anthropic 的[生物]安全过滤器阻止了任何能对大型代码库进行推理的模型被使用,导致他在近期一篇 ICLR 投稿中已经发现多个极其愚蠢的错误——因为无法借助模型审查代码。
这是一条对模型安全护栏实际体验的具体抱怨:安全过滤在非生物领域的科研编码场景中造成了误伤。
「模型」频道最新
- Nace 发布 Drex Max v1.1,决策模型登顶 AA 指数 — m4rkGS · 2026-11-09
- Polymarket 开盘：年底前中国公司登顶顶级 AI 模型概率仅 7% — Polymarket · 2026-11-09
- 传阿里 Qwen 4 今日发布,CTO 称本周内亮相且或有惊喜 — kimmonismus · 2026-11-09
- 用户怒斥 Anthropic 静默量化模型是「心理战」，称侵蚀全行业信任 — ryunuck · 2026-11-09
- 开发者观察：新一代 LLM 让人从过度约束转向留白让模型发挥 — jongranskog · 2026-11-09
- Google 悄然推翻承诺：消费级 Gemini 自动读取 Gmail/Drive 并送人工审核 — tlislo · 2026-11-08