DeepSeek
2 則報導，新到舊。
- vLLM 和 SGLang 宣稱追平 DeepSeek 的推論引擎 DeepInfer。
vLLM 在 GB200 上的 decode 吞吐量與 DeepInfer 公布值相差 6% 以內，GB300 NVL72 每 GPU 954K tokens/s，4 張 B300 單一使用者 826 tokens/s。SGLang 的 p…
- DeepSeek V4.1-Flash-1017 開放權重
DeepSeek 在 Hugging Face 發布新版 Flash 模型，763B 參數、1M token context、MIT 授權可自行下載部署，官方模型卡列出 DeepSWE 77.0、Terminal-Bench 42.3。這代…