GitHub

yhfgyyf/vllm-deepseek-v4-sm89

并开启 FlashInfer sampler、sparse MLA warmup、max-num-batched-tokens=16384。