2.78 万亿参数、29GB 内存、每秒半个字：Kimi K3 真的在笔记本上跑起来了
一个纯 C 写的推理引擎 WASTE，把 2.78 万亿参数的 Kimi K3 塞进了 64GB 笔记本：982GB 模型按需从磁盘流式读取专家权重，实测 0.5 tok/s。每秒半个字慢到离谱，但它证明了万亿参数模型的 …
#MoE
七问 Kimi K3：中国大模型离「好用」还有多远？
月之暗面用一段 36 秒视频宣告 K3 将至。但在 Chatbot Arena 上代号 Kivine 的匿名模型已经在海外开发者圈炸了锅——能跑 3D 页面、能生成视频、敢跟 Fable 5 正面硬刚。本文不列参数表，只 …
把 400B 大模型塞进 48G 内存：LLM in a Flash 背后的魔法
Apple 2023 年的一篇论文，让 4000 亿参数的模型跑在了普通 MacBook 上。核心技术 MoE + 量化，背后藏着一个关于'按需调用'的工程哲学。
247GB 就能把 Kimi K2 Thinking 搬回家：Dynamic 1-bit GGUF 实操笔记
用 Unsloth 发布的动态 1-bit GGUF 量化版，让 1T 级 Kimi K2 Thinking 在消费级硬件上跑起来，含安装、下载、运行、部署和避坑指南。