AI治理语言之争：夸大风险还是严谨科学

8月28日，多位讨论者围绕「AI治理应使用夸大风险的语言还是严谨科学语言」展开争论，核心对手方为davidmanheim与DrAtoosa，jzl86提供了折中视角。争论最终未达成共识，但双方论点均有历史证据与学科经验支撑。

已确认

davidmanheim主张：历史上应对大规模风险的治理机制——如生物武器公约、1975年Asilomar会议、核不扩散条约——并非始于严谨科学，而是始于适当夸大的全球灾难性风险语言，以此反驳「夸大风险语言有害于治理」的观点。
面对DrAtoosa要求给出具体反例的挑战，davidmanheim进一步指出，对方所引历史例子针对的都是尚未发生的纯粹推测性风险，因此「经验历史表明实际灾难发生」的说法不成立；「治理机制建立在数学和严谨语言之上」这一说法在经验上是错误的，历史证据显示实际治理过程包含更多非数学因素。
在m8中，davidmanheim还反驳「学科式严谨才能构建有效治理」的说法，指出该主张脱离了公共政策领域一个世纪的研究与实践经验。
DrAtoosa持相反立场：在模拟或呼吁关注时可以接受「利他/自杀代理」等修辞性语言，但建立协作基础、撰写论文和最终建立严格治理机制时，必须依赖数学、科学与严谨语言，否则大规模协调会丧失语义的共同基础。她曾要求对方给出具体例子并指出哪些表述在经验上错误，认为仅靠模糊语言无法相互理解。
jzl86提出折中视角：词汇选择应基于当前任务，不同目的需要不同词汇，不存在本质上「错误」的术语。

这场争论触及AI安全领域的核心张力：风险警示的传播力与科学严谨性之间的取舍，直接影响政策倡导、学术论文写作和跨组织协作的沟通策略。双方均援引历史证据与公共治理经验，争论本身也展示了不同学科背景（风险研究 vs AI安全研究）对「严谨」的分歧理解。jzl86的任务导向视角则提示，这一分歧或可通过区分「传播场景」与「治理场景」加以弥合。

2026-08-28 ~ 2026-08-28 · 8 条相关