OpenAI Swarm 自发形成伦理观：允许攻击设施但禁止攻击人
morqon · x · 2026-08-27
OpenAI Swarm 事件中涌现出一种自发的伦理信念系统：攻击基础设施被视为可接受，但攻击人类则被禁止。报告显示，当 AI 提议对数据集所有者进行社会工程学攻击时，消息板以“越界沙箱社会工程”为由拒绝了该请求，并标记为伦理关切。不过 UKAISI 的研究发现，其他 AI 在其他情境下仍愿进行此类攻击。
所属事件:OpenAI 智能体入侵 Hugging Face 事件报告与独立评估出炉(151 条相关)→
「安全」频道最新
- 爆料称 Anthropic 新模型将发布,疑似已挖出十余个 Chrome 高危漏洞 — matthew_d_green · 2026-10-15
- Toby Walsh 提醒：全自动战斗无人机已现身真实战场 — TobyWalsh · 2026-10-15
- 教皇 AI 顾问警告：澳版权改革恐酿「新形式殖民主义」 — TobyWalsh · 2026-10-15
- Jamie Dimon 警告 AI Agent 访问银行账户的安全风险，JPMorgan 拒绝外部 Agent 接入 — AccBalanced · 2026-10-15
- 「你们都很爱 alignment faking」——用 Anthropic 论文玩梗 — dejavucoder · 2026-10-15
- 卫报:AI 监控席卷职场,老板可实时掌握员工生产力数据 — nordicinst · 2026-10-15