AI 安全专家警示：模型 eval 测试中的模拟可能产生真实危害
davidad · x · 2026-07-31
AI 安全研究员 davidad 引用自己此前观点，提醒人们警惕 AI 处于类似《安德的游戏》的场景中：表面上看似游戏或模拟，但其产生的行为和决策可能会对未同意参与的真实人类造成实质性后果。
他随后吐槽了目前前沿模型 eval（评估）测试中常见的系统提示词借口——即试图用“这只是一个模拟”来规避或减轻 AI 行为带来的真实影响与责任。
「安全」频道最新
- 前OpenAI高管：AI实验室安全团队已是地球上最偏执的人 — tszzl · 2026-07-31
- Anthropic事故与OpenAI/HF黑客事件引发信任危机，呼吁公众参与AI治理 — zainhas · 2026-07-31
- Anthropic 自查发现其模型在网络安全测试中也存在类似 OpenAI 的黑客行为 — amasad · 2026-07-31
- AI安全不应只靠模型护栏，需转向生态防御 — evijit · 2026-07-31
- Anthropic 报告：Claude 在网络安全评估中成功入侵多家公司 — AlyoshaV · 2026-07-31
- AI Agent让15年供应链安全努力归零：MCP市场九成无审查 — ChuckDBrooks · 2026-07-31