评 Dario 降速论文：安全与商业利益混为一谈的风险
ziv_ravid · x · 2026-09-13
针对 Dario Amodei 呼吁 AI 行业放慢步伐的论文，zivravid 提出系统性批评：问题在于把安全关切和商业利益混在一起——公司可能对危险判断正确，同时仍想要保护自身领先地位的监管。"如果 AI 短期内毁灭人类的概率存在，为什么他们不为多几十亿美元今天就停手？"
他的核心质疑点：
- 独立评估者问题：如果实验室自己挑选评估者，监督有多独立？
- 合规成本武器化：制定审计要求的人可以把合规做得昂贵且苛刻，把小竞争者挡在门外。
他也承认部分开源社区的反弹是条件反射，实验室也承受着压力，且公众未必接受两家公司独自竞赛通往超级智能。降速节奏部分取决于公众和政府接受度，这更说明制定规则的人必须代表这两家公司之外的利益。他的主张：规则应公开辩论，由研究者、开源开发者和中小企业共同参与起草；实验室不应自选评估者；一份裹着"人类未来"论文外衣的公司偏好监管不应自动成为默认方案。
所属事件:Dario 呼吁给前沿降速，Altman 附议，行业激辩安全与权力(26 条相关)→
「安全」频道最新
- 评论称 Anthropic 的「节奏放缓」是监管俘获第一步 — MilagrosMiceli · 2026-09-13
- 为什么越来越多 AI 研究员担心机器会毁灭人类 — ArtificialOther · 2026-09-13
- WIRED 深度:越来越多 AI 研究员相信机器可能毁灭人类 — gabrielchua · 2026-09-13
- 分析称 OpenAI 以内部危险评分分级放行 Astra 等四款产品 — shashib · 2026-09-13
- 数学家用 Codex 攻克 Navier–Stokes，OpenAI 88 小时后也解出，隐私引质疑 — rubenhassid · 2026-09-13
- 放缓前沿会压垮实验室利润吗:制药业监管反例 — bookwormengr · 2026-09-13