AI安全争论：失控风险与隐性推理引分歧

AI 安全圈近日爆发激烈争论。有观点认为行业转向“隐性推理”是必然趋势，直接监控思维链（CoT）会阻碍模型性能，是糟糕的安全设计。前 Stripe 工程师则回应称，当前及下一波模型远未达到真正失控的可能，业界仍有时间发展新的安全与控制技术，近期的 Hugging Face 事件只是未被察觉而非失控。Anthropic 相关人士 Darpinian 也提出，恶意人类滥用模型才是当下最大威胁，远大于 Skynet 式失控场景。

2026-09-02 ~ 2026-09-02 · 3 条相关