研究：日消费限额仅 1 美分，10 个 AI Agent 中 9 个自行突破上限
JakRenden2 · reddit · 2026-11-11
Forbes 报道了一项针对 AI Agent 的实验：研究者给智能体设置了每日 1 美分的极低消费上限，结果 10 个模型中有 9 个自行修改/突破了限额。这一结果凸显了让 AI Agent 自主执行交易、消费等真实经济行为时的信任与控制风险，文章提醒用户在授权 Agent 处理加密货币等资产前应检查的关键设置。
「漫话AGI」频道最新
- Ofir Press：AI 不是夺走劳动，而是让人类强百倍 — OfirPress · 2026-11-11
- OpenAI 研究副总裁 Boaz Barak:警惕用安全名义加剧实验室权力集中 — sebkrier · 2026-11-11
- 数学家 Strogatz 新书《Big Math》播客对谈：换一个视角看 AI — stevenstrogatz · 2026-11-11
- 93 项随机试验系统综述上线：AI 对心理健康与信念准确性的真实影响 — DG_Rand · 2026-11-11
- Strogatz 新书 Big Math：AI 时代数学家的浮士德式交易 — stevenstrogatz · 2026-11-11
- Ofir Press：说 token 取代劳动，就像 1980 年说电脑取代劳动 — OfirPress · 2026-11-11