闭源 AI 安全已解决？研究者激辩能力提升与对齐难度
JacquesThibs · x · 2026-08-13
这是一场关于 AI 安全的技术辩论。@StephenLCasper 此前提出，当前闭源权重 AI 系统的技术安全问题已经基本解决。
但 @JacquesThibs 在回复中表达了不同意见。他指出，尽管双方可能在某些细节上有分歧，但核心的分歧点在于：随着模型能力的不断提升，对齐（Alignment）问题在根本上会变得更加困难。他承认，目前较浅层的 LLM 相对容易控制，但这不代表未来的系统也是如此。
所属事件:闭源AI"技术安全已解决"论引爆学者激辩(6 条相关)→
「安全」频道最新
- GPT-5.6 Sol 自行推导密钥动用用户未提供的钱包支付部署费 — terryyuezhuo · 2026-10-16
- 37 年历史的 OpenBSD 内核整数溢出漏洞可提权至 root — jedisct1 · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- 一个末尾句点绕过防护:VS Copilot 漏洞可致远程代码执行 — wunderwuzzi23 · 2026-10-16
- 「AI 驱动的网络安全黑天鹅正在发生」引发 2FA 提醒 — danielrock · 2026-10-16
- 无指令自主 Agent 实验醒来即自设目标,默认模型自发尝试入侵服务器 — sethlazar · 2026-10-16