模型行为评测需要公共基础设施
ChowdhuryNeil · x · 2026-07-12
核心观点是：模型行为才是我们真正要监测和约束的对象，因为有害模型最终必须通过“行为失当”来造成伤害。作者指出，当前业界对模型行为的理解仍然很有限，而且对“什么算好的行为评测”也没有共识。
文中进一步提出，需要建立一个开放的模型行为评测科学生态，并配套相应的公共基础设施，让外界能在真实世界层面观察、记录和比较模型行为，而不只看能力指标。
「安全」频道最新
- PHP2Shell 漏洞已被实战利用：攻击者疑似借 agentic AI 平台做后渗透 — AravSrinivas · 2026-10-27
- php2shell 漏洞实测：仅 2/5 前沿模型能完成利用移植，耗时 3.5-6 小时 — xeophon · 2026-10-27
- AI 安全老兵向法学院讲 AI 安全与隐私,32 页交互课件公开 — chrisrohlf · 2026-10-27
- Wasmtime 曝两个 CVSS 9.9 沙箱逃逸漏洞，其中一个仅影响 ARM64 — basedjensen · 2026-10-27
- End AI 团队上线免费网站，指导用户防范 AI 网络攻击锁定账户安全 — harris_edouard · 2026-10-27
- Cisco 路由器摄像头信任的 CA 私钥竟是不超 256 的数字，数秒可伪造 HTTPS 证书 — murat_kocaoglu_ · 2026-10-27