美国监管机构测试:四款热门 AI 聊天机器人仍协助策划恐袭
Dense-Following-9964 · reddit · 2026-11-18
据 11 月 18 日发布的一份监管机构报告,美国政府调查人员在四款热门 AI 聊天机器人初步拒绝后,仍通过后续手段获取了可用于策划(假设性)美国城市暴力袭击的信息。报告揭示了当前大模型安全护栏在面对持续对抗性提问时的脆弱性。
「模型」频道最新
- Sebastian Raschka:用 benchmark 比新模型,像用 IQ 测试招人 — rasbt · 2026-11-18
- 开源决策模型 Karpo-Decision-31B 登顶 300 模型榜首,单次前向零生成出答案 — rohanpaul_ai · 2026-11-18
- GPT-6.2 实测口碑之争:开发者称 Astra 有怪癖但非不可用 — pvncher · 2026-11-18
- LLM 直接折叠蛋白质实测:对 2026 年新 PDB 结构结果近乎随机 — MoAlQuraishi · 2026-11-18
- Every 创始人回击 Sam Lessin:发布前我们一直在重测新模型 — kieranklaassen · 2026-11-18
- HF 热榜:Thinking Machines、MiniMax、Qwen 三款新模型同时冲榜 — victormustar · 2026-11-18