在DeepInfer

DeepSeek 发布了一个 open-source 推断引擎,为其最快和最便宜的AI型号提供动力.

open-source DeepInfer,为V4.1-Flash提供基于Apache 2.0和 vLLM 的服务层,降低了AI供应商托管的计算成本和压力.