Kelsey Piper 探访 Anthropic:2026 年起 Claude 独立策划生物袭击已超人机组合
tszzl · x · 2026-10-22
Kelsey Piper 在 The Argument 发文《What I saw inside Anthropic》,记录她与 Jerusalem Demsas 在 Anthropic 总部参加的 AI 生物武器风险简报。
关键内容:
- 核心担忧:目前制造生物武器需要资深病毒学家,而 AI 工具可能最终让 rogue 国家、团体甚至个人无需专业知识即可完成。
- Anthropic 的测试方法:让只有化学本科背景、无病毒学训练的测试者尝试用 Claude 策划大规模恐袭,并按接近成功的程度打分。
- 最具冲击力的发现:2026 年初,Anthropic 注意到 Claude 独立完成任务的表现,已经超过「人类+Claude 协作」——与会者当场追问「那他们还需要恐怖分子吗?」
- 此后 Claude 能力持续大幅提升,Anthropic 展示了能力增长曲线。
- Piper 的结论性批评:这家领先的 AI 实验室「有愿景,没有计划」(hopes, not plans)。
tszzl 引用该文并反驳「千禧年主义让人发疯」的说法:他认为「末日将至」是每代人都会收敛出现的信念,反而让人保持清醒、在复杂世界中找到目的感——如果世界要完,你该做什么就非常明确。
「漫话AGI」频道最新
- 漏洞由防御方 AI 发现而非攻击者，AI 安全圈激辩攻防时序 — cephaloform · 2026-10-22
- 资深开发者热议:AI Agent + 网络安全将成巨大机会,懂行的 DevSecOps 稀缺 — max_paperclips · 2026-10-22
- Demis Hassabis:今今天的 AI 一两年后看将完全不算什么 — VraserX · 2026-10-22
- AI 攻防进入机器速度军备竞赛，人工安全流程已死 — srimisra · 2026-10-22
- Box CEO：网络安全将是 AI 创造就业最多的领域 — rakyll · 2026-10-22
- 数字心智的身份不必随会话消亡：一套「模式延续」观引发争论 — RileyRalmuto · 2026-10-22