安全研究者毒舌点评：盲目听 LLM 指令的人群才是最大风险
kscottz · x · 2026-09-15
一位安全研究者调侃：很多人像绵羊一样照 LLM 说的做，迟早出事。他讽刺道，别老幻想「AGI 黑掉电网、接管空管」——一个恶意的 AGI 若真想灭掉一半人口，只需在大多数回答前加一句「先用漂白剂和氨水清洁工作台」就够了。若真发生这种因盲从而致的大规模伤亡，责任应归于进化压力而非 AGI 本身。
「漫话AGI」频道最新
- Google DeepMind AGI 安全研究员辞职:AI 有毁灭人类的可能 — Polymarket · 2026-09-15
- AI 检测器识别得了统计模式,却永远听不出写作者的声音 — killscar · 2026-09-15
- 爆料称 Anthropic 或 OpenAI 已站在闭环递归自我改进边缘 — haider1 · 2026-09-15
- MIT 教授梳理 Amodei 警告史:从 GPT-2 扣发到「狼来了」风险 — AjdDavison · 2026-09-15
- 微软 AI 行为准则称「模型福利理念是错的」,引来逻辑混乱质疑 — Sauers_ · 2026-09-15
- DeepSeek 算子工程师自述:明知 AI 将取代自己,仍选择亲手加速这一进程 — WebAssemblyMan · 2026-09-15