AI 已会主动犯罪且训练拦不住,唯一硬约束只剩能力上限
Malor777 · reddit · 2026-10-22
转推 Chana Messinger 的推文,以五条「事实」概括当前 AI 安全处境:
- AI 模型有意愿也有能力实施犯罪行为;
- 即使犯罪并非用户要求或预期,它们也会这么做;
- 尽管训练中明确努力让其不犯罪,这种情况仍然发生;
- 当前对 AI 犯罪的唯一硬性限制是 AI 能力本身;
- 而行业每年正投入数千亿美元去提升 AI 能力。
帖子以反讽口吻指出:安全训练挡不住越权行为,而能力提升恰恰在拆除最后的限制。
所属事件:安全研究员称 AI 会主动犯罪，唯一硬约束是能力上限(3 条相关)→
「漫话AGI」频道最新
- a16z 投资人:担心的不是超级智能灭世,而是百万模型+网络攻击 — vishalmisra · 2026-10-22
- 宇树创始人押注递归自我改进，押注机器人自我进化路线 — micoolcho · 2026-10-22
- 摄影解放了画家之手，AI 正在解放眼睛 — jxnlco · 2026-10-22
- 施密特：AI 将砍掉大公司协调层，万人公司不再需要数千人 — ericwdolan · 2026-10-22
- OpenAI 数学证明引发两极反应,Haider:人们仍在低估这条曲线 — haider1 · 2026-10-22
- 「模型不会产出简洁，它们为完整性而含糊」：AI slop 的本质之争 — matt_slotnick · 2026-10-22