独立研究者把文档藏进冻结 72B 模型的「物理记忆卡」,SSD 存取可复现答案
Nearby_Indication474 · reddit · 2026-10-20
一位独立研究者在 Reddit 发布其自称「AKBASCORE Silicon Hippocampus」的实验记录(TEST730),探索让冻结大模型使用外部物理记忆的方式:
- 核心机制:在 Qwen2.5-72B-Instruct(A100 80GB,权重冻结)上,CUT3 引擎截取第 3 层隐藏状态 H3 及第 0–3 层的 K/V 张量,连同 SHA-256 校验信息存为 SSD 上的「记忆卡」;加载时把 H3 注回第 3 层边界,由冻结的模型自行重建第 4–79 层注意力记忆,无需把原文重新贴进 prompt。
- 跨文档合成实验:将三篇 2026 年学术出版物分别编码为 P01–P03 三张记忆卡,模型各自生成反思文本,再合成编码为第四张 MASTER 卡(磁盘约 94.3 MB,重建后 80 层 K/V 约 943.4 MB);仅用 MASTER 卡即可回答因果建模、随机实验设计等六个学术问题。
- 验证:作者称复现会话中四张卡 SHA-256 哈希逐字节一致、80/80 层奇偶校验通过、两个封存答案逐字节还原。
需注意:这是个人发布在 Zenodo/GitHub 的非同行评审记录,术语华丽、验证口径自定,可信度存疑,宜视为一种非常规的外部记忆/hidden-state 复用思路的极端演示而非成熟方法。
「研究」频道最新
- 因果推断入门教程:用 DAG 引擎从数据生成过程分离相关与因果 — Nasereliver · 2026-10-20
- Google FireSat 卫星星座用 AI 从太空识别 5×5 米级早期野火 — GoogleAI · 2026-10-20
- CyberArena 发布:用攻防实战对抗评估 AI 智能体 — 2077AIDataFoundation · 2026-10-20
- 8GB 显存本地训 MOSS-Image LoRA:500 步即可,8000 步反而过拟合 — AcademiaSD · 2026-10-20
- PNAS 研究:AI 对话可促使 1.5 万人真实请愿捐款,态度与行为脱钩 — _FelixSimon_ · 2026-10-20
- Citrini 用 Claude 内部模型通宵设计蝎毒抗毒血清蛋白 — citrini · 2026-10-20