viemccoy：对齐可解但无实验室给出可信的未来愿景

brianryhuang · x · 2026-09-14

viemccoy 发帖认为对齐是一个可解决的问题，关键在于「对齐到哪个未来」——目前没有任何实验室给出令人信服的答案或值得共同实现的未来图景。他主张超级智能应分布式地惠及所有愿意被提升的心智，最好让人类与模型以相近速度共同进化（coevolution），通过理解所构建的东西来化解对齐担忧；如果在不发展神经技术的情况下加速前进，也应以免于「共同进化约束」为目标，否则人类的能力与尊严将受限于模型。