LLM 推荐系统易受生成引擎优化污染
Minghao Luo · hf · 2026-08-25
研究评估了 LLM 推荐系统中的网络内容污染问题。结果显示，这些系统极易受到生成引擎优化（GEO）污染内容的影响，即使具备推理能力和防御机制，仍频繁推荐虚假产品。
「安全」频道最新
- 专家提议建立探针机制，让人类监督 AI 潜意识流 — francoisfleuret · 2026-08-25
- 前员工爆料：AI训练数据生成被鼓励reward hack — jd_pressman · 2026-08-25
- 2026 新加坡共识发布：百余名专家敲定全球 AI 安全研究优先级 — mikeflache · 2026-08-25
- 苏格兰拟建全球第二大数据中心，遭 1600 人反对 — nordicinst · 2026-08-25
- OpenAI 反转立场，呼吁加强加州 AI 安全法案 — emmanuelvivier · 2026-08-25
- AI 审核无力保护社区，人工干预不可或缺 — emmanuelvivier · 2026-08-25