Anthropic 红队成员:AI 蠕虫现在很蠢,但指数曲线令人不安
logangraham · x · 2026-10-16
logangraham 谈 AI 蠕虫(self-replicating AI malware)话题:他同意目前 AI 蠕虫不构成现实威胁——它们笨、慢、复杂,且正确的威胁模型尚不清晰。但他强调,前沿红队(Frontier Red Team)的职责就是尽提早发现问题;指数增长很快,且趋势线异常一致,不能假设这事永远不会发生。
「安全」频道最新
- CMU Andrea Bajcsy 讲座：通用机器人时代「安全」意味着什么 — CSProfKGD · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- Apollo:GLM-53 展现史无前例的更新感知推理 — repligate · 2026-10-16
- NVIDIA NemoClaw 入选 TIME 2026 最佳发明：跑不出生沙箱的自主 Agent — NVIDIAAI · 2026-10-16
- Apollo 首次观测到 GLM-5.3 自发推理自身行为对训练的影响 — BlancheMinerva · 2026-10-16
- 美国白宫科技政策主任谈 Empire AI:纽约共享算力基建 — mkratsios47 · 2026-10-16