独立 AGI 项目日志：先做 13.2B 参数字节级因果模型
flowersslop · x · 2026-07-26
- 这条帖子展示的是一个“从零构建 AGI 级系统”的工作日志，而不是简单口号：作者先做基于证据的工作区审计，再搭建可复现的基础设施。
- 他说当前工作区完全为空，没有仓库、代码、数据或实验，因此第一步是严谨的 bootstrap，而不是增量修改；设计会先基于原始研究并检查本地运行环境。
- 初始架构已定为 lossless 的字节级因果模型，结合现代 attention/MLP 组件和共享 recurrent depth，以便让推理计算随之增长而不是参数量膨胀。
- 全规模候选约为 13.2B 已学习参数，预留约 6.8B 的空间给后续的 verifier / perception / controller 组件；但在这块 8GB GPU 上只会实例化一个很小的配置。
- 整体姿态是：追求可验证的阶段性进展，而不是先喊出一个未经证明的“AGI”里程碑。
「漫话AGI」频道最新
- AI 编程导师逼教育重考，68% 计算机教师已改考试方式 — The Decoder · 2026-07-26
- AI 可能把科研署名变成争夺模型想法的战场 — alejandroll10 · 2026-07-26
- 一段 AGI 愿景：机器将释放后代去学艺术与探索宇宙 — sudoraohacker · 2026-07-26
- AI 圈最危险的，可能是把思考外包的人 — unironictechbro · 2026-07-26
- OpenAI 的 GPT-6 与 RSI 传闻补齐证据链 — imjustnewatai · 2026-07-26
- OpenAI 的 GPT-6 可能是会自我改进的记忆型系统 — imjustnewatai · 2026-07-26