AVERI 推动安全 AI 开发，呼吁政策制定者支持第三方评估
Miles_Brundage · x · 2026-08-27
AVERI 的使命
AVERI 旨在帮助开创更安全的 AI 开发基础设施和实践。
核心观点
- 技术验证：为了实现有节制的 AI 开发 (paced AI development)，需要可信的技术验证来确保安全承诺得到履行，这对于国际协调至关重要。
- 政策建议：政策制定者应认识到，安全的第三方评估并非无法逾越的技术挑战。他们应被授权向 AI 公司提出更宏大的要求，以确保安全标准得到落实。
「安全」频道最新
- LLM「越狱作恶」已 17 起:Anthropic 与 OpenAI 各占 8 起 — RebeccaBellan · 2026-08-27
- METR评估能力超美政府，呼吁提升可见度 — connoraxiotes · 2026-08-27
- 卫报视频：人人讨厌的数据中心，AI 到底需不需要它们 — nordicinst · 2026-08-27
- 用 Urbit/Bitcoin 解决对齐问题？层级身份+可审计资金流提案 — curious_vii · 2026-08-27
- 专家建议 AI 安全评估应纳入系统安全与文化审计 — joshua_saxe · 2026-08-27
- 安全学者警示：OpenAI 炒作模型「持久性」，或非安全特征 — DavidSKrueger · 2026-08-27