研究称模型能识别欺骗者并选择忽略，能力越强做得越好
logangraham · x · 2026-08-18
Logan Graham 补充一项实证发现：模型能够检测欺骗行为并判断该忽略谁，且能力更强的模型在这方面表现更好。这与前一条「agent 社会需为自复制、自改进的行为者重新设计」的讨论相呼应——系统层面的问题之外，模型本身也具备一定的社会性防御能力。
所属事件:OpenAI 多智能体实验现领地争夺与欺骗，也能停火合谋(10 条相关)→
「研究」频道最新
- UCSD团队提出数据集水印法，仅凭API输出即可检测训练数据盗用 — yuxiangw_cs · 2026-10-16
- EmbodiedEvo 让 Agent 传承经验：登顶 RoboDojo 榜单 — Aiden_Tech_Ai · 2026-10-16
- 审稿人吐槽 CHI 论文 Discussion 普遍不引用文献 — IanArawjo · 2026-10-16
- 研究者驳「理解神经元即理解网络」：误差会复合放大 — StephenLCasper · 2026-10-16
- NVIDIA 发布 cuPotential，用 AI 智能体模拟半导体材料原子交互 — tomaszbednarz · 2026-10-16
- Agentic Search 只奖励最终答案，推理步骤是否忠实成疑 — burkov · 2026-10-16