Hume 团队为拟人用户模拟模型从零构建安全框架

LukeW · x · 2026-11-21

Hume(humansand)发布会模拟真实人类说话的用户模拟模型时,因公开 API 上几乎没有成熟的用户模型安全实践,团队从零构建了新的安全保障框架:模型听起来像真人,也可能被用于诈骗、刷假评论、冒充他人,因此系统会结合上下文逐条检查消息,并跨会话筛查安全问题。团队成员还专门为用户模拟器建立了安全测试床。

难点在于:在标准助手模型里属于不良行为的东西(操纵、骚扰等),在模拟真实人类行为时反而是需要建模的对象,团队为此重新设计了限制框架,并承诺对误伤的正当用例及时修复。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →