研究者谈嵌入审计:METR、Apollo 的工作重要但早已「被定价」
tszzl · x · 2026-11-17
拥有 51 万粉丝的 AI 研究者 tszzl 发文表示:METR、Apollo 等机构正在开展 embedding 审计(embedding auditing)工作,这对「世界的维护」至关重要,也是极其必要的。但他个人认为这件事早已是市场共识中「被定价」的必然发展。
他真正兴奋的方向是更有野心的机械可解释性(mechinterp)研究——即深入模型内部机制去理解模型如何运作,而不只是做安全审计层面的检查。
「漫话AGI」频道最新
- Anthropic 曾协助设计更短 CAR-T 信号域:杀瘤效率实验室提升 — ChrisGPT · 2026-11-17
- 李开复:让 AI Agent 担任 CEO 参谋长甚至联席 CEO — kaifulee · 2026-11-17
- Slotnick 感言:AI 时代应让更多人成为历史学家、哲学家和批评家 — matt_slotnick · 2026-11-17
- Figure 04 通过「机器人图灵测试」:戴手套分不清人手和机械手 — PeterBowdenLive · 2026-11-17
- 机器学会了推理,人类却正在丧失独立思考的习惯 — OwariDa · 2026-11-17
- roon:RLHF 后对齐无根本进展,能力正远甩安全研究 — theteknosaur · 2026-11-17