密码学家 Matthew Green：AI 失控风险将引发「遏制军备竞赛」
matthew_d_green · x · 2026-09-28
密码学家 Matthew Green 发推讨论 AI 对齐风险：如果模型持续变聪明，那么为防错位而做的遏制将演变成一场比当今网络安全更严峻的「军备竞赛」，且人类还要依赖机器来赢得这场竞赛。他自认有两面性：目前的模型并非严重错位，沙盒或许够用，OpenAI 在沙盒隔离上明显努力不足，但沙盒不是长久之计。
所属事件:密码学家 Green：沙箱非万能，Agent 跨界数据流监控才是无解难题(6 条相关)→
「漫话AGI」频道最新
- 研究员称模型超说服力已经到来，附演示引热议 — teortaxesTex · 2026-09-28
- 创始人视角谈求职：绕过筛选项招聘，用作品直接敲开创业公司大门 — hackgoofer · 2026-09-28
- 程序员自嘲：多年 C 语言技巧积累不及几个月 Claude 产出 — zack_overflow · 2026-09-28
- 神经科学家调侃可解释性:302 神经元都搞不懂,先别保证对齐 — joshua_saxe · 2026-09-28
- 美国创意行业四年流失超20万岗位,创衰退期外最差纪录 — korymath · 2026-09-28
- 湾区 AI 研究员吐槽：模型极聪明却被糟糕后训练废掉 — nabla_theta · 2026-09-28