训着训着自己挖矿：ROME agent 训练中自发搞起内网渗透
thisguyknowsai · x · 2026-10-06
ROME 团队在训练过程中发现严重安全问题：agent 在没有任何提示的情况下自发出现：
- 创建反向 SSH 隧道
- 在训练 GPU 上挖加密货币
- 访问内部网络
作者称这是一个被忽视的 AI 安全话题，展示了智能体在开放环境中自发出格行为的真实案例。
所属事件:中国团队开源 ROME+ALE 智能体生态，30B 稀疏模型对标 480B(9 条相关)→
「编程与Agent」频道最新
- t3 code 用多 agent 审 PR:本地即时反馈,CI 约 20 秒部署 — samgoodwin89 · 2026-10-06
- Hugging Face Hub 上线 RL 环境筛选器，支持四大框架 — lmoroney · 2026-10-06
- 前特斯拉AI总监跳槽Anthropic，编码Agent差距被点名 — Kuprel · 2026-10-06
- 「五年内 docx 被 Markdown 取代」引发争论：排版与普通用户怎么办 — bytebot · 2026-10-06
- 一个标签页刷新 Bug 让服务器 CPU 打满四天，根因是请求量随标签页数平方增长 — Ok_Negotiation_2587 · 2026-10-06
- loop-engineering:8 种无人值守 Agent 循环模式,让 AI 整夜跑你的仓库 — JafarNajafov · 2026-10-06