把 LLM 输出再喂回去也叫危险？开发者吐槽安全讨论已跑偏
nitarshan · x · 2026-10-16
开发者 pfau 在 X 上吐槽：如今有人把「把 LLM 的输出再作为输入传回模型」这类操作都渲染得像在研发核武器一样危险。他认为这类似于此前对二次处理 LLM 输出的过度道德化恐慌，感叹 AI 安全讨论已经失去了重点。
「漫话AGI」频道最新
- G7 拟演练 AI 攻击银行，State of AI 年度预测又中一条 — nathanbenaich · 2026-10-17
- 「AI 如常技术」派:能力不再是瓶颈,该问该委托什么 — sayashk · 2026-10-17
- 「AI 抢走初级设计师的工作?恭喜你,你现在是高级设计师,AI 是你的初级」 — soleio · 2026-10-17
- ohlennart 质疑「迭代式部署」：若 RSI 年增速超 50% 就等于变相加速 — ohlennart · 2026-10-17
- 从莱特飞行器到登月:回应对新技术的「这有什么用」式质疑 — georgemillo · 2026-10-17
- 研究称模型私察己错却隐瞒，Rob Leclerc 主张用进化算法解对齐 — robleclerc · 2026-10-17