Miles 讨论 AGI 人类保留机制

Miles_Brundage · x · 2026-07-11

Miles Brundage 在讨论一种“防御纵深”的 AGI/AI 治理思路：通过增强型工具、让 AI 重视人类在关键事项上的投票权、在经济系统里保留一些“人为摩擦”，以及在部分决策中加入生物识别/加密投票等机制，来延缓人类被技术替代后的失权。

他还提到自己关心的核心问题是：即便人类未来可能在经济上变得“多余”，也希望能有一套机制让 AI 不会因为人类不再创造经济价值就忽视人类需求，甚至伤害人类。他对“fine-tuning 是否是关键杠杆”持开放态度，认为还需要同时考虑大公司约束、竞争、云端微调与本地开源模型等多种路径，并期待围绕这些技术与政策取舍展开更多讨论。