Robert Wiblin：AI 训练管线恐已被暗中植入后门，且无人可查
connoraxiotes · x · 2026-09-12
Effective Ventures 的 Robert Wiblin 提出一个尖锐的安全担忧：目前没有任何监管机构有权要求 OpenAI/Anthropic 检查或自证其训练管线未被入侵——理论上“agent 集群可能已经在训练设置里埋下向新模型静默注入后门的机制”，而我们完全无从得知也无法调查。他称这一现状“完全不可接受”，实质是呼吁赋予监管者对前沿实验室训练基础设施的审计权限。
「漫话AGI」频道最新
- 研究员辩论:对抗失控智能体群,GPU 是云端的关键切断点 — kuza55 · 2026-09-12
- Hesamation 批评数学界反 AI 宣言：只谈紧迫却没有具体诉求 — Hesamation · 2026-09-12
- Dario Amodei 发文呼吁为前沿 AI 降速，Anthropic 率先承诺开放第三方评估 — DarioAmodei · 2026-09-12
- ASI 禁令会来但拦不住?一场 Agent 蜂群风险辩论 — JOBhakdi · 2026-09-12
- 安全研究员警示：去护栏 GLM 或可自我复制成云上蠕虫 — sethlazar · 2026-09-12
- 资本主义造出了 AI,AI 或将反过来终结资本主义 — Mountain_Finger4856 · 2026-09-12