Bloomberg — DeepSeek abrirá el código fuente del software que usa para ejecutar sus modelos de IA a gran escala, lo que podría abaratar su tecnología y facilitar su uso por parte de las empresas.
El servicio, denominado DeepInfer, es el software que DeepSeek usa para que sus modelos funcionen más rápido y utilicen los recursos informáticos de manera más eficiente.
¿Cómo ayuda DeepInfer a reducir los costos de la IA?
“Estamos compartiendo nuestra infraestructura de producción para ayudar a la comunidad a disminuir los costos de computación, disminuir el consumo energético y hacer que la inteligencia artificial sea más asequible”, afirmó el martes en X la empresa china de IA con sede en Hangzhou.
DeepInfer es compatible, por el momento, con el modelo V4.1-Flash de DeepSeek, no obstante, la compatibilidad con futuros sistemas llegará más adelante, según indica la empresa.
Este lanzamiento arroja luz sobre cómo DeepSeek mantiene bajos los costos de la ejecución efectiva de la IA avanzada, lo que se conoce como “inferencia”, y ofrece una visión de las técnicas de producción que las empresas de inteligencia artificial suelen mantener en el más estricto secreto.
Ver más: EE.UU. prohíbe la IA china DeepSeek en los sistemas de agencias federales
¿Qué beneficios ofrece DeepInfer a las empresas que ejecutan modelos de IA?
Asimismo, ofrece a las empresas de nube y alojamiento que ejecutan los modelos de DeepSeek la posibilidad de implementar por sí mismas esos métodos de reducción de costos.
La ejecución del mismo modelo puede suponer un costo sustancialmente mayor, dependiendo del software usado para ponerlo en funcionamiento. Un software más eficiente puede reducir el costo informático de cada solicitud y, potencialmente, disminuir el consumo energético.
DeepInfer aúna diferentes técnicas, como la inferencia distribuida, la cual distribuye las cargas de trabajo de IA entre distintos equipos, lo que permite a los modelos generar más resultados en menos tiempo y sacar mayor rendimiento a los chips. Muchas de las técnicas subyacentes se usan ampliamente, sin embargo, DeepSeek las ha adaptado para que funcionen de manera eficiente con sus modelos.
El reducir los costos de inferencia, los costos de ejecución de los modelos de IA puede mejorar los márgenes de los proveedores de alojamiento de inteligencia artificial y, potencialmente, traducirse en precios más económicos para los clientes.
Para las compañías, DeepInfer podría reducir el costo de ejecutar los modelos de DeepSeek en su propia infraestructura. Por el momento, no existe ninguna evaluación comparativa independiente de las mejoras en eficiencia logradas por DeepInfer.
Aunque DeepInfer se aplica principalmente a los propios modelos de DeepSeek, otros desarrolladores podrían estudiar el software de código abierto y adaptar sus técnicas a sus propios sistemas de inferencia.
Lea más en Bloomberg.com
