网友猜 Anthropic 故意不做 agent 循环游戏,为保安全可监测性
NathanpmYoung · x · 2026-11-18
转推 @vvvincentc 的一个个人猜想:Anthropic 可能是刻意不进入「循环游戏」(looping,即让 agent 长时间循环运行的方向),因为循环会让安全监测变得困难;他们为可监测性付出了能力上的代价,却没有因此获得多少赞誉。属未经证实的推测,但触及安全与能力的权衡话题。
「漫话AGI」频道最新
- LeCun:在 LLM 之上搭自主 Agent 是根本性错误 — Syntetisaattori · 2026-11-18
- Gavin Baker:没有开源生态,全世界只剩两三种价值体系 — garrytan · 2026-11-18
- 美联储主席警告:AI 若不及预期,或引发大规模失业或市场崩盘 — round · 2026-11-18
- 研究者用 AI 后年读论文不足 10 篇,学界忧深读能力流失 — manoelribeiro · 2026-11-18
- AI 面试机器人省时不成,反暴露企业滥用自动化的隐忧 — DavidLinthicum · 2026-11-18
- 404 Media:AI 加持下全球系统连环崩溃,经济正被忒修斯之船化 — 404 Media · 2026-11-18