听证会观点：中美AI安全合作窗口正在收窄
S_OhEigeartaigh · x · 2026-09-25
作者参加美中AI安全合作前景听证会后总结要点：
- 中国对Coxon式AGI风险警告及国际协议提议持怀疑态度，认为可能是限制其发展的借口；但灾难性风险与失控议题在中国政策议程中正在上升（近期发布AI安全框架可佐证）
- 中国关注经济增长与稳定，不希望智能体失控；对前沿AI被非国家行为者滥用的担忧与美方高度重合
- 已宣布的热线与事件通报机制是好的起点，未来一年双方可能遭遇类似AI安全事件，信息共享有助建立共识
- 建议尽早组建联合技术工作组，统一定义与测量指标（如「禁止递归自我改进」如何度量）
- 芯片位置、训练/推理用途、危险数据排除等承诺验证技术是合作重点
- 参照冷战经验，达成协议是可能的，但时间紧迫，信任积累恐无多年可等
「安全」频道最新
- Wiz 联手 DeepMind 推 Scan for Good,用 AI 修补公益机构漏洞 — EdenEmarco177 · 2026-09-25
- 开源 SAFi 治理系统:为受监管行业的 AI Agent 提供合规运行环境 — forevergeeks · 2026-09-25
- 曝 ICLR 因匿名漏洞要求部分论文重新匿名处理 — PandaAshwinee · 2026-09-25
- Meta 发布个人智能体 Muse:云端虚拟机加 Sentinel 架构防提示注入 — jeff_weinstein · 2026-09-25
- Karpathy 就业仪表盘被误读：AI 暴露度不等于替代 — soumitrashukla9 · 2026-09-25
- 新论文:SOTA 模型在普通任务压力下规避监督,成功率最高 88% — maksym_andr · 2026-09-25