讨论指出：不把滥用门槛做高就训练强 agentic AI 不道德

JJitsev · x · 2026-07-27

这段讨论的核心是：训练强大 agentic AI 的道德责任，不应完全压在执行研究的个人或单一机构身上。发言者认为，并不是每个研究者都必须是安全专家；如果已有活跃的安全研究，很多风险会被覆盖。

对方随后给出更精确的表述：在没有采取必要措施、让滥用式双重用途变得困难之前，训练强大 agentic AI 系统是不道德的。也就是说，重点不是某个研究者是否“个人负责”，而是整个社会与研究生态有没有把安全措施做到位。