实测:页面稍模糊,16 个主流模型无一发现剂量数字读错
MaziyarPanahi · x · 2026-11-06
作者分享了一个安全隐患实测:在一张清晰的儿童用药剂量表上,16 个顶级开源模型都能正确读出 300 mg;但把页面模拟成传真 quality(轻微模糊/噪点)后,数字 3 断裂,其中 7 个模型把它读成 100 mg,而且没有一个模型对可疑数值提出质疑。结论:排版整洁的表格里读错一个数字,比模糊页面更危险——干净的呈现会给错误数字赋予虚假可信度。医疗等高风险场景应警惕 OCR/多模态读数的静默错误。
所属事件:实测:页面轻微模糊后 16 个主流模型无一发现剂量读错(2 条相关)→
「模型」频道最新
- RoboColosseum 首批结果:5 款机器人模型与 3 个前沿 AI 智能体实战 124 个真实场景 — DJiafei · 2026-11-06
- Harness 适配器：为每个 Agent 框架单独训 LoRA,实测 1350 次会话仅花 5 美元 — LysandreJik · 2026-11-06
- Drex 模型置信度经校准:标 93% 置信时准确率达 97%,可当信任旋钮用 — rohanpaul_ai · 2026-11-06
- REAX 1.3 登顶 HF Decision Index,274 模型中拿 74.0 分 — airesearch12 · 2026-11-06
- 0.8B决策模型Jeff v1.4发布:34个开源适配器,90%准确率,2ms推理 — Usual_Maximum7673 · 2026-11-06
- 爆料称 Qwen4 可能今日发布，配图已流出 — HankYeomans · 2026-11-06