多伦多大学Jinesis Lab三篇论文将亮相COLM
ZhijingJin · x · 2026-07-17
多伦多大学 Jinesis Lab 宣布将有 3 篇论文亮相 COLM 2026，主要研究方向涵盖： - **AI 安全与智能体防御**：提出 ODILE 方法，通过正交破坏注入的工具调用嵌入，防御智能体提示词注入攻击。 - **AI for Science**：发布 Stargazer，一个可扩展的模型拟合基准测试环境，用于评估天体物理约束下的 AI 智能体。 - **大模型安全护栏**：研究发现通过“增量补全分解”技术，可逐词突破 LLM 的安全防线。