Mat Dryhurst:推理模型可以被刻意指示「从此拼写很差」
matdryhurst · x · 2026-11-04
AI 研究者 Mat Dryhurst 指出,完全可以指示一个推理模型「从此以后故意拼写很差」。他回忆最初觉得相关视频挺好笑,但一旦某个内容爆火,就产生了重复它的激励——「谁得益(Cui bono)」。
帖子意在提醒:一些看起来是模型自发行为的搞笑内容,可能实为人为诱导并为了流量而批量复制。
所属事件:Mat Dryhurst 警告误导性 AI 内容有利可图才是最大风险(3 条相关)→
「漫话AGI」频道最新
- Meaning Alignment Institute 联合创始人提出「Telocracy」社会构想 — edelwax · 2026-11-04
- AI 写百科：Scio 两个月产出 2.2 万篇，耗 1.5 万亿 token、40 万美元 — evisoft · 2026-11-04
- 「认知压缩陷阱」图解：AI 让人自信变快、智慧变慢 — YogeshMalik · 2026-11-04
- 开发者放弃对抗式代码审查：聪明模型时代省 token 用形式验证更值 — trq212 · 2026-11-04
- 设计师反思 AI 时代：用户体验设计正与服务设计融合 — manosaie · 2026-11-04
- Richard Socher 谈 AI 自主科研:Recursive 已用于模型训练与 GPU kernel 优化 — TWIML AI Podcast · 2026-11-04