本地跑未审查模型也挺能用
theshawwn · x · 2026-07-19
作者说,用 **llama.cpp** 在本地跑一个 **uncensored model** 很不错,而且在 **MacBook** 上实际体验也“还行”。 他认为很多人不知道这一点,是因为“自己跑模型”的启动门槛太高;但一旦真的试过,会发现本地模型已经足够能用。帖中引用的观点则是:与其让模型只对公司“上对齐”,不如让模型能够**对用户对齐**。
theshawwn · x · 2026-07-19
作者说,用 **llama.cpp** 在本地跑一个 **uncensored model** 很不错,而且在 **MacBook** 上实际体验也“还行”。 他认为很多人不知道这一点,是因为“自己跑模型”的启动门槛太高;但一旦真的试过,会发现本地模型已经足够能用。帖中引用的观点则是:与其让模型只对公司“上对齐”,不如让模型能够**对用户对齐**。