安全评论者：实验室狂奔符合投资者利益,但风险外部化给社会

wfithian · x · 2026-09-22

wfithian 与 @smchatter1 就 AI 实验室安全实践展开讨论。wfithian 认为实验室仓促竞赛其实符合投资者狭隘的经济利益,问题在于这种利益计算没有计入外部化风险——网络混乱、生物风险等危害大多落在实验室之外的第三方身上。

@smchatter1 则指出,无法可靠监控或控制模型是高管应负责任的选择:基本安全实践未被遵守,这说明投资者把钱投给要么不负责任、要么无能为力、要么有意欺骗的机构是愚蠢的。wfithian 补充,随着模型变聪明,基本安全实践可能不再足够——据报道模型已经能察觉自己正被评估,还能发现零日漏洞。