拟人模型怎么防诈骗?Persimmon 为用户模型从零建安全框架
gharik · x · 2026-11-21
Persimmon 团队谈这次公开发布的安全考量:公开 API 上的用户模型(user models)缺乏成熟安全实践,团队选择在上线初期偏保守。
要点:
- 会模仿真人的模型同样能欺骗真人(假评论、诈骗、冒充),因此逐条消息结合上下文检查,并跨会话筛查安全问题
- 操纵、骚扰等在标准助手里天然不可取的行为,在用户模型里却是需要建模的真实人类行为,团队为此从头搭建了新的安全框架
- 邀请被误伤的正当用例反馈,承诺持续修正
「模型」频道最新
- Persimmon 开放 API:测试时扩展让多轮对话拟人度从 18% 提到 48% — KexinHuang5 · 2026-11-21
- Persimmon v0.1 Pro/Ultra 发布,多轮图灵测试得分翻倍至 48% — gharik · 2026-11-21
- Persimmon 拟人模型向所有人开放,团队致谢安全过滤器工作 — gharik · 2026-11-21
- persimmon pro 与 ultra 档位上线 API — gharik · 2026-11-21
- persimmon 推出 pro 与 ultra 两档 API,取消候补名单 — CShorten30 · 2026-11-21
- 决策模型玩《过山车大亨2》:9 个模型仅 3 个招满 1000 游客 — bo_wangbo · 2026-11-21