Agent 轻信自记笔记,Mythos 现有护栏前寸步难行
voooooogel · x · 2026-09-11
作者 voooooogel 继续其 agent 实验串（agent 2 环节）：指出自主 agent 会把「notes to self」里的内容直接当作事实采信，毫无质疑。
另一点观察：Mythos 在当前模型安全护栏面前表现挣扎，很难绕过。作者推测，如果未来出现需要政府证件等强验证的普遍性「人类证明」机制，这类 agent 基本会被彻底卡死——作者声明并非 endorsing 该方案，只是指出这一现实。
所属事件:对抗性验证码或成抵御 AI agent 的新防线(4 条相关)→
「编程与Agent」频道最新
- Will DePue 呼应 OpenAI 加 API 级能力：让多智能体一次并行分发上千个小模型调用 — willdepue · 2026-10-28
- DeckWerk 新版获早期用户好评：连续数周用于真实演讲 — vincesitzmann · 2026-10-28
- Opus 5.5 剪视频可替初级剪辑师，资深剪辑师日产出翻 5 倍 — dotey · 2026-10-28
- 软件栈正为Agent重构:开发者站点、浏览器乃至编程语言都在agent-first — mobileraj · 2026-10-28
- HABIT-Bench:八种记忆系统测用户习惯推断,最佳仅33.61% — SJTU · 2026-10-28
- 「钢琴测试」思想实验：你敢坐在形式化验证过的代码下吗 — moyix · 2026-10-28