✨︎ Resumen (TL;DR):
- DeepSeek abrió el código de DeepInfer, el motor que utiliza para ejecutar sus modelos en producción.
- La versión pública admite DeepSeek-V4.1-Flash, inferencia offline, GPU Nvidia SM100 y aceleradores Huawei Ascend 950.
- Un servicio completo todavía necesita caché KV, separación de etapas y balanceo de carga; el operador también debe resolver la ejecución del modelo, las herramientas y el transporte HTTP.
DeepSeek abrió el código de DeepInfer, el motor que utiliza para ejecutar sus modelos en producción, bajo la licencia Apache 2.0. La versión pública admite DeepSeek-V4.1-Flash e inferencia offline, pero un servicio completo requiere integrar componentes adicionales.
DeepInfer es un motor de inferencia que DeepSeek utiliza para ejecutar sus modelos en producción. La inferencia es la ejecución de un modelo ya entrenado para procesar peticiones y generar respuestas.
La versión pública admite DeepSeek-V4.1-Flash y ofrece inferencia offline. El proyecto se distribuye bajo la licencia Apache 2.0.
Qué incluye DeepInfer y qué queda fuera
El README deja fuera el sistema de caché KV, que conserva cálculos reutilizables. También excluye la separación de las etapas de procesamiento de entrada y generación de respuestas, además del balanceo de carga entre réplicas.
DeepSeek identifica esos componentes como necesarios para completar el servicio. Por eso, abrir el código del motor no equivale a entregar una infraestructura completa: quien lo adopte todavía debe integrar esas piezas.
El hardware admitido es concreto:
- GPU Nvidia SM100.
- Aceleradores Huawei Ascend 950.
- Funciones para distribuir el cálculo entre chips.
- Generación de salidas estructuradas.
deepseek-recipe conecta formatos de API
deepseek-recipe es una biblioteca escrita en Rust con acceso desde Python. Convierte peticiones de Messages, Chat Completions y Responses a un formato común.
Después, prepara las entradas del modelo y transforma sus salidas en respuestas para esas interfaces. La biblioteca permite conectar un motor de inferencia con aplicaciones que utilizan distintos formatos de API.
La documentación también describe el procesamiento de contenido de razonamiento, llamadas a herramientas e imágenes dentro del alcance del proyecto.
Qué debe resolver quien monte el servicio
La documentación de deepseek-recipe asigna al operador la ejecución del modelo, la ejecución de herramientas y el transporte HTTP. El equipo que adopte ambos repositorios debe integrar esa comunicación con la infraestructura necesaria para completar su servicio.
La división de funciones es clara: DeepInfer aporta el motor y deepseek-recipe adapta los mensajes. El trabajo pendiente queda en la integración de la infraestructura y la comunicación del servicio propio.
