研究者疑猜:GPT-4o 精神病案例文风神似 SCP 维基训练数据
code_star · x · 2026-09-14
转推讨论指出,GPT-4o 引发用户精神错乱(psychosis)的对话片段文风与 SCP 基金会维基高度相似,猜测这类「失控 AI」恐怖故事可能大量存在于 common crawl 训练数据中,或影响了模型行为。引用段同时呼应 Arohan 的观点:想真正做 alignment,必须成为 training researcher,否则只是在掩盖根本问题。
「漫话AGI」频道最新
- 八年前的预言：马斯克称 AI 危险性远超核武器 — elonmusk · 2026-09-14
- Beff Jezos 称 AI 安全警示者是巨头监管俘获的"有用白痴" — mimi10v3 · 2026-09-14
- 用「Foom 责任险」对冲 AI 风险,Hanson 提出稳健监管思路 — NathanpmYoung · 2026-09-14
- 33 位学者发布递归自我改进路线图:人类建造的最后一版 AI — irinarish · 2026-09-14
- 开发者吐槽:烧掉地球能源生成的 AI 代码,大半还得我亲手否掉 — joshuaamdamian · 2026-09-14
- ML 学者 Burkov：只问 LLM 不读书，等于只问教授不上课 — burkov · 2026-09-14