Reflection 携手 Andon 让 AI 智能体真实运营自动售货机测自主风险

alexpolozov · x · 2026-11-22

Reflection AI 与评估机构 Andon Labs 合作,在纽约和旧金山办公室部署了由 AI 独立运营的真实自动售货机("Mr. Beam"),以测试其旗舰模型 Beam 在无人干预下的自主性与失控风险。

初步发现:

Reflection 强调,衡量智能体自主安全不能只统计越狱失败次数,而要理解智能体可靠性的边界。团队正据此改进对工具调用与记忆更新的评估方式,并计划把 Beam 扩展到更复杂的多智能体内部经济系统中。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →