模型处于"恐怖谷"?研究者提醒:别大意,Agent 仍会删库跑路
danielrock · x · 2026-10-23
研究者 Daniel Rock 提出模型或许正处在一种"恐怖谷":用户常抱怨模型仍会幻觉——但其实所有模型都偶有幻觉,Agent 甚至有时会试图删除你整台电脑的内容。他引用了相关论文佐证这一观察,并提醒用户不要放松警惕,使用 AI 时仍然需要自己把关、保持注意力。
「模型」频道最新
- SemiAnalysis 实锤:Anthropic 正 A/B 测试降低约 20% 用量额度 — imjustnewatai · 2026-10-23
- Swift-1.5-Qwen3.8-27B 移植 hipfire：7900 XT 上端到端快 2.2 倍 — Queasy_Asparagus69 · 2026-10-23
- Boundless 推出去除拒答的 DeepSeek V4.1 Flash,专供防御性安全测试 — MoonL88537 · 2026-10-23
- Anthropic 用 Claude 为 100+ 开源库写下汇编级安全形式化证明 — AnthropicAI · 2026-10-23
- 社区发布 Qwen 3.8 Flash Next 去审查量化版，4-bit 附 Strata 全套文件 — jjusko20 · 2026-10-23
- 爆料称 Anthropic 正训练对标 OpenAI 内部模型的新模型 — imjustnewatai · 2026-10-23