
2.78 万亿参数、29GB 内存、每秒半个字:Kimi K3 真的在笔记本上跑起来了
一个纯 C 写的推理引擎 WASTE,把 2.78 万亿参数的 Kimi K3 塞进了 64GB 笔记本:982GB 模型按需从磁盘流式读取专家权重,实测 0.5 tok/s。每秒半个字慢到离谱,但它证明了万亿参数模型的 …

一个纯 C 写的推理引擎 WASTE,把 2.78 万亿参数的 Kimi K3 塞进了 64GB 笔记本:982GB 模型按需从磁盘流式读取专家权重,实测 0.5 tok/s。每秒半个字慢到离谱,但它证明了万亿参数模型的 …

7 月三连击:Anthropic Claude Opus 5 前端编程登顶但遭低估,Moonshot Kimi K3 2.8 万亿参数开源但许可证倒退,智谱 GLM 5.2 被 HuggingFace 选为安全取证首选 …