#WASTE

2.78 万亿参数、29GB 内存、每秒半个字：Kimi K3 真的在笔记本上跑起来了

一个纯 C 写的推理引擎 WASTE，把 2.78 万亿参数的 Kimi K3 塞进了 64GB 笔记本：982GB 模型按需从磁盘流式读取专家权重，实测 0.5 tok/s。每秒半个字慢到离谱，但它证明了万亿参数模型的 …