研究者呼吁部署 AI 须默认假设模型错位

AI 治理研究者 Luiza Jarovsky 撰文指出，OpenAI/Hugging Face 事件最重要的教训是：部署 AI 的公司必须默认智能体处于错位（misaligned）状态来设计防护。她还提到 Anthropic 最新论文警告小型 AI 模型可能很快能在智能烤箱、山寨安卓电视盒等设备上自我复制，且因缺乏集中控制点而更难防范，AI 安全威胁正在上升。

2026-10-15 ~ 2026-10-15 · 2 条相关