Sam Altman 提议以 perplexity 为指标划定前沿模型安全红线
sama · x · 2026-11-23
Sam Altman 表示,各前沿实验室已根据白宫协议(White House Accords)承诺建立提升系统安全性的标准与最佳实践;他认为可以讨论用 perplexity 等度量来进一步实现这些目标。他此前提议:前沿模型开发者应共同制定共享的评估规范和红队安全案例标准,包括共享透明度标准;并提议基于 perplexity 等测量设定共同上限,在理解和监控 AI 的能力提升之前开发者承诺不越过。这是前沿厂商高管就模型安全治理提出的具体量化方案。
「模型」频道最新
- LeCun 被反驳:现代 AI 系统是否还是自回归 token 预测器 — john__allard · 2026-11-23
- 开发者实测 Gemini 4 Neon:自动重写内核并监督训练调参 — xennygrimmato_ · 2026-11-23
- 26B 本地模型 Inkling 2 Mini 发布,有人用它重造 Apple Notes — simonguozirui · 2026-11-23
- M4 MacBook 实测 Inkling 2 Mini:8 分钟写出 3D 飞行模拟器 — simonguozirui · 2026-11-23
- 团队用 Zig+Metal 自写引擎跑 Inkling 2 Mini,解码快过 MLX — viksit · 2026-11-23
- Reddit 实机演示 Inkling 2 Mini 的循环 Transformer 运行画面 — mhxb · 2026-11-23