AI 日产 token 或达 600 万亿,作者呼吁建立可读的问责层
SmartRick · reddit · 2026-09-09
作者提出 AI 需要「问责层」(accountability layer):预计到 2026 年底 AI 每日 token 输出将超 600 万亿,远超人类产出,人类已无法逐一审查。作者基于 5 万余次调用、17 种人格的 persona 研究指出,给模型赋予行为权重后其词汇与工具调用方式都会改变,人与机器越来越难分辨。
他主张的不是审查每次计算,而是让系统行为可观察、对普通人可读,核心问题包括:
- 用户实际要求了什么,模型看到了什么上下文
- 模型提议了什么 vs 什么被验证过
- 调用了哪些工具、权限是什么、改动了什么
- 谁授权了行为、授权能否撤销、事后能否复现完整链路
作者称之为把黑箱变成「glassbox」,并批评前沿实验室对此不够重视。属个人观点长文,有具体框架但非一手技术实践。
「漫话AGI」频道最新
- OpenAI 研究员:数学物理问题两年内全解,人们却只顾争功劳 — jachiam0 · 2026-09-09
- Dwarkesh 评 MagicAILabs:RSI 时代 AI 研究员算力瓶颈或比想象小 — AccBalanced · 2026-09-09
- 编辑改几句话不算合著者,那 AI 润色算不算? — Afinetheorem · 2026-09-09
- 「文本 AI 含量只能是 0% 或 100%」观点引发 AI 圈争论 — Afinetheorem · 2026-09-09
- 技术作者撞见自己的文章被「搬运」成瑞典语，本人毫不知情 — DavidLinthicum · 2026-09-09
- 图灵奖得主 Barak：AI 证明定理受益于人类辅助， soon 会像深蓝质疑一样可笑 — soumitrashukla9 · 2026-09-09