别再堆砌复杂架构!极简 Transformer 搞定小分子对接且扩展性极佳
alex_peys · x · 2026-08-13
一位研究者批评了当前机器学习(尤其是生物+ML)论文中为了“显得高级”而堆砌复杂模块的学术风气。他指出,这些花哨的技巧往往无助于提升性能,反而增加了扩展难度,并误导后续研究。
为了验证极简架构的潜力,他在小分子对接这一重要问题上进行了实验:仅使用基础的 Vanilla Transformer,输入分子的 SMILES 字符串和刚性口袋骨架,直接扩散配体的 3D 坐标。
关键做法与结果:
- 放弃了键损失、等变性、对表示和局部坐标系等复杂设计,仅通过随机旋转处理数据。
- 采用“在无口袋的类药分子上进行大规模预训练(数据量大是关键),再在真实交互上微调”的策略。
- 结果表明,该极简模型不仅表现优异,而且具有极好的扩展性。
「研究」频道最新
- 新越狱法 BPJ 突破最强防御:仅用单比特信息黑盒攻击 — StephenLCasper · 2026-08-13
- 论文提出滥用防护安全案例框架,量化降低 AI 滥用风险 — StephenLCasper · 2026-08-13
- 谷歌部署 Gemini 生产级探针,应对长上下文分布偏移 — StephenLCasper · 2026-08-13
- ICLR 论文:过滤预训练数据可让开源模型抵抗对抗微调 — StephenLCasper · 2026-08-13
- 论文探讨 AI 能力限制的合理性:何时应限制能力以防止滥用 — StephenLCasper · 2026-08-13
- MLCommons发布企业指南:如何识别AI模型「刷榜」造假 — TheKanter · 2026-08-13