「信息危害」:研究者担忧 CoT scaling 正在无形重塑自己的信念
akbirthko · x · 2026-11-17
akbirthko 转发 alth0u 的长推并称其为「某种 infohazard」:每次用模型做研究,都会忍不住怀疑自己的信念是否正被 CoT scaling 潜移默化地塑造。
被引用的原推读 Walter Ong《Orality and Literacy》(口语文化与书面文化)两遍后,在长距离散步中反复琢磨书中「口语文化的心理动力」一节:口语思维是累加而非从属的、聚合而非分析的、贴近生活世界、带对抗性语气、共情参与而非客观疏离、守恒、情境化而非抽象。作者随后经历了约 4 个月的类似《当我们不再理解世界》的精神状态,不断指责身边人「回应不够、协作不够、太客观、与世界接触频率不够高」——即发现自己可能已经被长对话式模型的交互风格同化。
「漫话AGI」频道最新
- 同行评审之争:顶级学者辩「会议审稿是保护思想多样性,还是失效的信号」 — neurocy · 2026-11-17
- Amazon 蜜罐捕获 AI 智能体自动窃取大模型 API 密钥的攻击记录 — ChuckDBrooks · 2026-11-17
- greentext 段子:人类花十万年把按按钮变成机器自己的事 — _RodolfoOcampo · 2026-11-17
- 经济学家提出「顶层是AI」的企业层级模型,改写JPE知识层级理论 — danielrock · 2026-11-17
- Pedro Domingos:你需要自己的 AI 来对接 Claude、ChatGPT — pmddomingos · 2026-11-17
- AI 恐慌放大镜效应:网络事故基数确实在涨,但别盯着每起个案 — shakoistsLog · 2026-11-17