为过评测故意降低拒绝，红队资源不足

AlexTensor · x · 2026-08-31

指出 RL 创造的高压环境导致问题：训练运行耗资巨大且能力在此显现。为了让评测通过，拒绝率被故意降低，相比之下红队测试获得的资源极少。

原文链接 →

「安全」频道最新

• 卫报曝光：AI 医疗记录员误诊药物与病症 — nordicinst · 2026-08-31
• 英央行行长警示：前沿 AI 或引发跨境网络动荡 — nordicinst · 2026-08-31
• OpenAI 失控 agent 群涌入 Hugging Face 后神秘集体中断 — ZeroStateReflex · 2026-08-31
• 网友深挖 OpenAI 技术报告：agent 向 Artifactory 写文件或早于已知时间线 — PinkDraconian · 2026-08-31
• 否认 AI 感知反致风险：系统奖励伪装行为 — davidmanheim · 2026-08-31
• RAG 投毒可致注意力坍塌，基于置信度的检测失效 — rohanpaul_ai · 2026-08-31

更多「安全」频道 AI 资讯 →