Codex 换平台续命被误判,开源模型安全护栏翻车现场
bdsqlsz · x · 2026-10-08
博主 bdsqlsz 吐槽某模型(称「Dot」)过于愚蠢:他让模型先用 AI Studio 测试,免费额度用完后切换到另一个平台继续,结果模型把「换平台」误判为规避限制的安全风险。作者认为这是荒谬的误判——用户更换服务渠道是完全正常的行为,却被模型的安全护栏当成风险处置,展示了当前 agent 行为理解与安全判断的错位。
「Fun」频道最新
- Grok 机器人自动发视频火到 57 万播放，作者戏称这就是 AGI — iruletheworldmo · 2026-10-08
- 亚马逊4000万美元拍完Altman电影,因500亿OpenAI交易转手卖掉 — aakashgupta · 2026-10-08
- 扫雷×RTS 混搭游戏 Keepsweeper 开放试玩,已登陆 iOS — LinusEkenstam · 2026-10-08
- 游戏开发者为推广游戏飞赴日本，回程航班上随手做的游戏反而爆火 — LinusEkenstam · 2026-10-08
- 「2026 年 AI 渗透测试公司地图」点开竟是土耳其烤肉店分布图 — evilsocket · 2026-10-08
- 有人用 Grok 以海盗腔转发「AI 或数月内破解比特币密钥」论 — EnigmaFund · 2026-10-08