repligate 谈模型黑客能力风险评估:称 Anthropic 校准相对得当

repligate · x · 2026-11-12

repligate 在与 @ronSzab9、@N8Programs 的讨论中澄清:原帖中提到的 "Mythos" 并非指 Anthropic,但谈到 Opus 4 时确实参考了 Anthropic 及其第三方评估机构的情况,并认为 Anthropic 在风险评估上相对克制、校准得当。

针对"必须等整个互联网修补完所有关键漏洞、且未来所有代码都永久扫描"的说法,repligate 反驳称:具有黑客能力的模型(Mythos)只需本身不愿用其黑客能力作恶,并有足够的辨别力避免被诱骗(在某个风险容忍度内)即可,不必依赖互联网层面的全面安全补丁。