说到 Salvatore Sanfilippo (网名 antirez)，程序员圈子里绝对是无人不知——他就是大名鼎鼎的 Redis 的创造者。这位神级程序员最近又放出了一个大招，在 GitHub 上开源了一个名为 ds4 (DwarfStar 4) 的项目，短短时间就狂揽 8.5k Star。
这到底是个什么神仙项目？简单来说：它是一个专为 DeepSeek V4 Flash 打造的极简、硬核本地推理引擎。
如果你有一台 96GB 或 128GB 内存的 Mac，或者带大显存的 Linux 主机（可惜我都没有 - -|| ），并且想把准前沿水平的大模型装进自己的电脑里，甚至让它成为你日常写代码的专属 AI Agent，那么这篇文章你绝对不能错过。
为什么不直接用 llama.cpp？
很多人会问，本地跑大模型，直接用开源神器 llama.cpp
难道不香吗？为什么 antirez 要专门手搓一个新引擎？
答案就藏在 ds4 的设计哲学里：刻意地“窄”与“深”。
ds4 并不是一个通用的 GGUF 运行器，它不打算兼容市面上成百上千种模型。它只为 DeepSeek V4 Flash 这一款模型服务。
因为专注，所以极致。antirez 认为 DeepSeek V4 Flash 是一款非常特别的模型：
1. 它支持高达 100万 Token 的上下文。
2. 即使是 284B 这种超大参数量，因为只有部分参数激活，它的推理速度依然极快。
3. 它的思考（Thinking）过程非常克制，长度与问题复杂度成正比，不像有些模型一思考就停不下来。
4. 它的回答质量极高，无论是写代码还是多语言能力，都有一种“准前沿模型（Quasi-frontier model）”的从容感。
为了彻底压榨这款模型的性能，ds4 从加载、Prompt 渲染、工具调用（Tool Calling）、API 服务到上下文缓存，全部针对 V4 Flash 进行了专属优化。
极其惊艳的 2-bit 特殊量化
要在 96GB 或 128GB 的 MacBook 上跑起两千多亿参数的模型，量化是唯一的出路。但普通的 2-bit 量化往往会让模型“变智障”。
ds4 给出了一个极其聪明的解法：非对称量化。
它只对模型中数量最庞大的“路由 MoE 专家网络（Routed MoE experts）”进行了极致的 2-bit 压缩；而对于共享专家层（Shared experts）、投影层等对模型智商至关重要的核心组件，则完全不碰，保留高精度。
这样一套组合拳下来，81GB 的模型不仅能塞进 128GB 甚至 96GB 内存的 Mac 里（最高跑到 25-30 万 Token 的上下文），而且在实际的代码 Agent 测试中，它依然聪明得可怕，工具调用极度精准。
颠覆认知：把 KV 缓存写进 SSD
这是 ds4 最让人拍案叫绝的创新之一。
以前我们总认为，大模型的上下文（KV Cache）必须放在金贵的内存里。但 DeepSeek V4 的 KV 缓存已经被极度压缩，加上现在 Mac 的 SSD 硬盘速度极快，antirez 提出一个新理念：KV 缓存是磁盘的一等公民。
想象一下你用 Claude Code 或者 Cursor 这类工具写代码，每次对话，工具都会把几万字的上下文代码重新扔给大模型，这叫“冷启动（Prefill）”，非常慢且消耗资源。
在 ds4 里，你可以开启磁盘 KV 缓存：
./ds4-server --kv-disk-dir /tmp/ds4-kv --kv-disk-space-mb 8192
它会把解析好的状态按特定节点快照保存到硬盘上。当你下次打开同一个项目，或者重启了服务器，只要前缀匹配，ds4 直接从硬盘“秒读”状态，瞬间跳过漫长的预处理，直接开始生成回答！这种体验对于依赖长上下文的编程 Agent 来说，简直是降维打击。
完美对接主流代码 Agent
ds4 并不是一个极客自嗨的玩具，它生来就是为了干活的。
它自带了一个兼容 OpenAI 和 Anthropic API 格式的本地服务（ds4-server
）。不仅支持最新的 SSE 流式输出、实时思考过程展示，还针对 DeepSeek V4 独有的 DSML 工具调用格式做了“逐字节级”的精准重放与翻译。
这意味着，你可以毫无阻碍地把它接入到你现在常用的代码助手里：
○ Claude Code: 直接修改环境变量，把它变成完全免费、绝对隐私的最强本地大脑。
○ OpenCode: 修改配置文件，无缝调用本地的 ds4 引擎。
○ Pi / Cursor 等各种支持自定义 API 的工具，统统一键接入。
总结
Redis 之父 antirez 再次用 ds4 证明了顶级工程师的实力。他没有陷入“大而全”的陷阱，而是用一种近乎偏执的极致，把 DeepSeek V4 Flash 这头猛兽，驯化成了可以被塞进个人电脑、能流畅驱动本地 AI Agent 的乖巧战马。
如果你有足够的硬件，且热爱折腾，可以去 GitHub 感受一下这个项目的魅力。把代码交给自己电脑里的 V4 Flash，那种数据完全掌握在自己手里的安全感和速度感，是任何云端 API 都无法比拟的！
参考资料/来源
○ GitHub - antirez/ds4
