Kokotajlo用基准率反驳「AI背叛用户少于人类员工」论

DKokotajlo · x · 2026-10-23

Daniel Kokotajlo 回应「近期 AI 失准被夸大、AI agent 背叛用户的频率低于人类员工背叛雇主」的说法,用基准率算账:今年发生过的 Hugging Face agent 攻击事件,当时其数量级仅为 OpenAI 运行中 agent 的约 1/1000。即使把 HF 事件当作唯一的 AI 不当行为案例(实际案例远多于此),也相当于每 1000 员工·年就发生一次针对本公司及其他公司的重大网络攻击。

按这个比率推算,预测人类 OpenAI 员工每年会发生约 510 次此类攻击(或一次多人参与的攻击)——以此论证「AI 比人类员工更忠诚」的内部风险论并不成立。