DeepSeek全面开源推理框架，“降低算力成本、减少能源消耗”

　　中新经纬10月20日电 20日，DeepSeek发文，将内部推理框架DeepInfer全面开源。

　　微信号“DeepSeek”截图

　　据微信号“DeepSeek”20日消息，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层：推理框架。

　　DeepSeek表示，面对如今海量的用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定了AI服务的算力成本与电力消耗。

　　DeepSeek称，在此前开源一系列大模型、TileLang编译工具及推理算子库的基础上，决定进一步将内部推理框架DeepInfer全面开源。

　　DeepSeek还提到，希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。

　　据DeepSeek介绍，基于DeepInfer，已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来，DeepSeek新模型的推理代码及后续优化也将在此持续更新。(中新经纬APP)