AI安全与能力仅一线之隔？两家RL环境公司名字神似

a__tomala · x · 2026-07-31

网友发现当前涌现了专注于 AI 安全（safety）和专注于能力（capabilities）的两种强化学习（RL）环境公司，且两者的名字（dmodel.ai 与另一家未具名的公司）极为相似，戏称 AI 的安全与能力其实只有一词之隔。

被引用的 dmodel 是一家基础 AI 研究实验室，致力于与前沿实验室合作，将模型转化为具备可解释性和对齐能力的研究员。他们构建用于开放式可解释性任务的 RL 环境，旨在教导智能体进行前沿研究，而非如何“奖励黑客（reward-hack）”。