AI 算法合谋闪崩风险：监控终将失效但商业激励兜底

krishnanrohit · x · 2026-10-13

Krishnan Rohit 展开长篇论述：他几年前的担忧是算法之间相互合谋导致「黑色星期五式闪崩」；虽然对实验室沙箱/监控的草率不满，但很多问题确实要等真实发生才能解决。

他承认当 transformer 更多自循环、被训练使用 neuralese（模型间隐语言）、部署到更大规模的集群时，现有监控将被证明不够用；但让模型守规矩的商业激励极强——头部实验室已多次因此暂停发布。如果下一代模型对现有方法不透明且出错，我们根本无法正确使用它们，只能加强监控、行为检测与系统加固，这些工作必须现在就做。