MoE

Apple 2023 年的一篇论文，让 4000 亿参数的模型跑在了普通 MacBook 上。核心技术 MoE + 量化，背后藏着一个关于’按需调用’的工程哲学。

用 Unsloth 发布的动态 1-bit GGUF 量化版，让 1T 级 Kimi K2 Thinking 在消费级硬件上跑起来，含安装、下载、运行、部署和避坑指南。