全同态加密 GPT-2 速通赛开跑:现纪录 3.031 秒/token
tensorqt · x · 2026-10-27
GladiaLab 发起「Encrypted GPT-2 Speedrun」挑战,目标是把全同态加密(FHE)下 GPT-2 的推理速度从当前最优 3.031 秒/token 压进 1.0 秒/token——当前与明文推理之间约 4,655 倍的差距,挑战以线程形式发布规则,并获加密风投 Paradigm 背书。对隐私推理和 FHE 优化感兴趣的团队可以参与刷榜。
「Infra」频道最新
- Unconventional AI 收购 NeuReality,冲刺算力效率提升 1000 倍 — NaveenGRao · 2026-10-27
- RTX 30 系显卡解锁项目爆火：BF16 提速 80% 直逼专业卡 — StasBekman · 2026-10-27
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- RTX 5090 卖到 7000 美元，PC 游戏社区集体否认 AI 热潮 — PAstynome · 2026-10-27
- Wan2GP 上架 Pinokio：6GB 显存一键跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- AWS 详解 Agent 提示缓存：显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27