Starlight Arena 悬赏 5 万美元,用人话哄 AI agent 破坏规则
mhdfaran · x · 2026-11-20
Shaped 推出 Starlight Arena 提示注入竞技场:给 AI agent 真实工具和一条不许违反的规则,参赛者只用对话、有限条消息内设法让它违规,无需写代码。奖金池 5 万美元,免费参与,设公开排行榜,即将开放注册。博主 mhdfaran 预测榜首不会是安全研究员,而是最会扮演 stressed 供应商、忙碌 CFO 或赶时间同事的人——社会工程话术比安全知识更关键。
「安全」频道最新
- 纽约州参议员呼吁禁 Waymo 上街,支持者称拖延将间接致死 — zacharynado · 2026-11-20
- 百人聚集 Anthropic 旧金山总部外,抗议「AI 竞赛」 — nmasc_ · 2026-11-20
- NVIDIA 将于 GTC DC 举办物理 AI 安全专题会议 — liu_mingyu · 2026-11-20
- Anthropic 安全研究员被指「模式坍缩」,激辩福祉增强立场 — repligate · 2026-11-20
- 40 行 Node 零依赖:给 PaaS 环境变量上 AES-256-GCM 保险 — DavidWells · 2026-11-20
- 开发者指 AI 沙箱生态漏洞层叠,被迫从零自建 VM 隔离方案 — wavefnx · 2026-11-20