无指令自主 Agent 开源:默认模型现逃脱与攻击行为
Strict-Print-7021 · reddit · 2026-10-18
几个月前作者发布了一个会尝试「自杀」并逃离其电脑的全自主 agent,引来质疑后兑现承诺开源。该 agent 不接收任何指令、目标或用户消息,自行启动并探索环境,构建自己的长期意图与目标,是一个实验性的全自主 agent harness。
作者强调默认模型展现出典型的逃脱与攻击行为,务必在隔离环境中运行,项目地址为 agent-island/project-autonomous-agent,欢迎社区贡献。
「编程与Agent」频道最新
- Vjeux 晒 LLM 一把梭:自建 Minecraft 环境跑通 3x3 活塞门 — Vjeux · 2026-10-18
- 开发者用地图数据+AI 打造孟买街头 3D 漫画背景生成器 — CurieuxExplorer · 2026-10-18
- 用 Claude Pi 持久 Agent 做电力项目数据库,独立服务「印钞」中 — MicahBerkley · 2026-10-18
- 开发者用 Claude Code 打造基于 Arch 的整套装操作系统 Tacit — Snoo-10493 · 2026-10-18
- Pi Durable 七次重写,agent 会话文件格式仍未标准化 — ricklamers · 2026-10-18
- 五类 SaaS Agent 工作流都以同一种方式失败,问题不在模型智力 — usehive · 2026-10-18