OpenAI 首席科学家等巨头研究员联名呼吁监管 AI 自动化研发
S_OhEigeartaigh · x · 2026-09-29
周一发表的一篇论文由 OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz、Meta AI 研究副总裁 Dawn Song 等人联名撰写,核心主张是:政策制定者应紧急要求企业披露其模型研发流程已被 AI 自动化的程度。
转发者 S. Ó hÉigeartaigh 表示赞同,认为让企业自证自动化水平、保障外部可见性,是当前 AI 治理中被忽视但正确的方向。这类由各大实验室高层亲自署名的前瞻性政策研究,预示 AGI 安全议题正从外部批评转向行业内部主动议程。
所属事件:20余人联署报告警示AI自动化研发或触发智能爆炸(13 条相关)→
「安全」频道最新
- 悬赏涨至 3000 美元:研究者称可轻松绕过 AI 文本检测器 — ctjlewis · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16