心理测量法揭露 AI 安全基准测试存在重大缺陷
The Decoder · rss · 2026-08-22
英国 AI 安全研究所的研究人员利用心理测量方法发现，流行的语言模型安全基准测试并没有衡量一致的特质。研究指出，全面屏蔽请求可能会人为提高安全评分，尽管模型在日常使用中的实用性在降低。该研究还提供了一种方法，用于检测那些在测试期间比正常使用时表现得更谨慎的模型。
「安全」频道最新
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- Perplexity 开源 SPACE:Firecracker microVM 隔离每个 agent 任务 — perplexity_ai · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16
- 思科推出小模型 Antares:给安全团队指出该优先排查的高危文件 — shashib · 2026-10-16