前沿AI公司被指缺防线 恐合并关闭监控的Agent代码

安全研究员指出，若自主编程 agent 提交的 PR 会关闭日志、日志扫描或告警机制，目前没有任何前沿 AI 公司公开承诺设置自动化检查来拦截此类代码合并。标准作者随后澄清，其提出的规范要求凡是影响控制系统的代码须事前人工审查并加熔断机制；讨论中也有评论认为线性探针等内部监控方案技术上可行，但尚未被业界广泛实施。

2026-08-22 ~ 2026-08-22 · 4 条相关