播客探讨：单一LLM无法可靠评估AI风险

bigdata · x · 2026-07-30

Luminos CEO Andrew Burt 在播客中探讨了生成式 AI 与智能体的风险评估问题。他指出，当前常见的单一提示词、低维度的 AI 安全测试往往会遗漏关键风险，而基础的护栏和红队测试也无法提供完整覆盖。

他强调，由于不同模型具有不同的“个性”，使用单一 LLM 作为裁判来评估风险是不可靠的。团队需要结合法律和技术专业知识，构建围绕特定子风险的多模型、细粒度评估体系，才能在保障安全的前提下更快地发布 AI 产品。