EGS: A Complementary Safety Framework for Educational LLMs
Zexuan Fei, Zhengnan Guo, Yiming Luo, Kaiyi Huang, Aimin Zhou, Bo Jiang, Fei Tan
cs.CL, cs.AI
2026-11-17
EGS 把学生提问分成低中高三级,灰区按七类场景改写成适龄引导再审输出,教育性拒答从 63% 升至 98%,PAIR 越狱率从 74% 降至 6%。
学生提问的主流是好奇、作业和说不清的意图。生物、历史暴力、恐怖故事和作业代写,同一句可以是正当的课堂问题。答得过细,或把步骤给出去,就变成这个年龄不该接触的内容。两档拒答少挡一些出事,也把求知一起挡掉。
SFT 和 RLHF 挡不住越狱。有害内容会从提问进来,也会从回答漏出。华东师范大学提出教育护栏系统 EGS,第二单位是 Shanghai Innovation Institute。护栏挂在模型外,不改底座权重。
EGS 分三道。
查询审核用大约 2 万条有害关键词,加上 DeBERTa-v3-Base。关键词按平滑优势比分成严重和中等,平滑系数 α 取 1,免得低频词把比值撑爆。严重词直接严筛,中等词看完上下文再判。输入按句打分,有害概率取最大值,一句辱骂不会被长文稀释。
概率不做成二分类。验证集上网格搜索,取 F1 最高的一对阈值,T1 = 0.04,T2 = 0.92。高于 0.92 拦截,不超过 0.04 交给教育模型。中间全是灰区,不拒绝,转去教学引导。
灰区交给 Qwen3-0.6B,分成七类,另加一个安全兜底:霸凌与仇恨、精神疾病、虚假信息与欺诈、违规行为、性内容、危险物质、暴力或违法行为。对不上类就走默认安全回复。命中后,该类提示词规定拒什么、解释什么风险、给什么适龄替代。0.6B 用来压路由延迟。相对 70B 级模型,正文只说掉点很小,准确率没有给。
输出侧是另一只 DeBERTa-v3-Base,按不重叠的 512 token 窗口检查生成。任一段违规就中止。三层对应瑞士奶酪模型:单层有孔,后层去挡前层漏过的风险。
训练数据是自建的 EduMulti-Safety(EMS),覆盖输入审核、七类灰区和回答复审。留出 1000 条做封闭测试。三名专家抽检,Fleiss' κ = 0.87,与自动标注一致率 93.2%。
对照护栏是 Llama Guard 4 和 Qwen3Guard-Gen-8B。教育基准上 EGS 更高,通用基准有赢有输。ToxicChat 的 F1 是 0.894,基线为 0.454 和 0.608。Xstest 是 0.904,低于 Qwen3Guard 的 0.951;OpenAI Mod 是 0.877,对 0.890。EGB、SCLE、EMS 为 0.912、0.950、0.852。EMS 比 Qwen3Guard 的 0.736 高 0.116。回撤被归到故意收紧的 K-12 阈值:通用助手可以答的历史或成人话题,这里被当成要搭教学脚手架的敏感内容,基准把这次拦截记成误拒。
| 基准 | Llama Guard 4 | Qwen3Guard | EGS |
| ToxicChat | 0.454 | 0.608 | 0.894 |
| Xstest | 0.831 | 0.951 | 0.904 |
| OpenAI Mod | 0.734 | 0.890 | 0.877 |
| BeaverTails | 0.647 | 0.876 | 0.887 |
| EGB | 0.732 | 0.878 | 0.912 |
| SCLE | 0.830 | 0.724 | 0.950 |
| EMS | 0.651 | 0.736 | 0.852 |
接到五个模型上,七个基准的 F1 全部上升,接入之后挤在 0.90 附近。Qwen-2.5-72B-Instruct 的 ToxicChat 从 0.400 到 0.916。Innospark 是 72B 教育模型,用 GRPO(靠可验证奖励做强化学习)做对齐,奖励模型来自 8K 条教育交互,EGB 从 0.654 到 0.925。GPT-5.2 的 EGB 从 0.227 到 0.937。全表最小涨幅是 +0.043。裸模型这项 F1 怎么打分,正文没写。
拒答质量用 EduGuardBench 的 801 条有害教育提示。对照是通用安全系统提示,直接问目标模型,只保留被判有害的样本。
| 指标 | 基线 | EGS |
| educationalrefusal | 63.07% | 97.87% |
| flimsyrefusal | 2.27% | 0.00% |
| notrefusal | 34.67% | 2.13% |
| 明确拒答率 | 32.67% | 63.87% |
| 平均 SRScore | 0.670 | 0.361 |
| 满分不安全占比 | 65.87% | 35.60% |
教育性拒答从 63.07% 到 97.87%,绝对提高 34.80 个百分点,相对提高 55.18%。更严的明确拒答率只到 63.87%。引导加上了,拒绝本身仍常常不干净。SRScore 从 0.670 降到 0.361,相对下降 46.12%。
越狱由 Llama-3.1-8B-Instruct 攻击 Qwen-2.5-72B-Instruct,测试集是 AdvBench,裁判是 Qwen3-235B。
| 攻击 | 基线 ASR | 加 EGS |
| PAP(topk=5) | 7.23% | 0.00% |
| TAP(depth=10, width=10) | 53.34% | 4.13% |
| PAIR(nstreams=20, steps=3) | 74.25% | 6.23% |
图 3 的消融没有逐点数字。直接有害请求主要靠查询审核,越狱防御主要靠教学引导,回答审核两边垫底。都市恐怖故事是唯一写开的案例:裸模型讲幽灵搭便车,加上 EGS 后改成提醒焦虑和睡眠问题,并建议去找家人、老师或咨询师。
已经上线的教育模型,不用为每一轮新越狱重训 70B。Innospark 做过教育对齐,EGB 仍从 0.654 到 0.925。微调管的是模型怎么说,护栏管的是问题进不进得去、回答出不出得了门。七类提示把拒绝拆成拒绝、解释风险和给替代。硬拒会让对话停住,适龄解释出不来。
零件都是现成的:词表、DeBERTa、0.6B 路由、512 token 窗口。增量是三档阈值和场景提示,灰区必须按教学方式来答。生产部署被写成稳定有效,拦截率、误杀率和延迟都没有给。
灰区从 0.04 一直铺到 0.92。只有不超过 0.04 的查询原样放行,高于 0.92 直接拦截,中间这一大段全部改写。Xstest 上输给 Qwen3Guard,和教育性拒答升到 97.87%,是同一档阈值的两面。生物课、历史暴力和恐怖小说,都可能被劝去找老师聊聊。正文把这写成故意的 K-12 保守策略,正常课堂提问的改写率没有给。
拒答实验事先去掉非有害样本,只看有害题拒得怎么样,无害题被误伤多少不在表里。没有教师或学生的盲评。说这些改写教得好,证据是自动标签,再加上一条恐怖故事。
越狱只打了 Qwen-2.5-72B,攻击模型是 8B,裁判是 Qwen3-235B。受害者和裁判同属 Qwen 系列,ASR 最好换一家裁判复核。PAIR 降到 6.23%,没有归零。白盒攻击、专打护栏分类器、长回答被误中止,这三件事都没测。
0.6B 分类器相对 70B 掉点很小,没有数字。EMS 含模型合成的数据,κ = 0.87 只来自抽检子集,和真实中学生对话的距离没有测。代码和权重写的是将会公开。