tszzl:对齐微调即可轻易击破,快速加固模型不现实
tszzl · x · 2026-09-13
tszzl 回应 @yonashav 的乐观判断：很难在短时间内把模型的所有薄弱点都加固到位；只要有人恶意微调，对齐措施非常容易被绕开。他强调自己是在做预测，而非鼓吹这种情况发生，并希望对方的乐观判断是对的。
所属事件:对齐微调可被轻易击破,AI安全叙事陷两难(3 条相关)→
「漫话AGI」频道最新
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31
- HubSpot 联创:创业公司死于自杀而非他杀,竞争对手不是最大威胁 — nathanbenaich · 2026-10-31