Incorporar inteligencia artificial a las operaciones es cada vez más relevante para las empresas que procesan grandes volúmenes de datos. El desafío está en hacerlo de manera eficiente, con control de costos y capacidad de expansión.
Ante esta situación, Sem Parar Corpay, un ecosistema de soluciones de movilidad, medios de pago y beneficios corporativos, decidió dar un paso adelante en la forma en que opera la inteligencia artificial y sus modelos de lenguaje. En lugar de tratar cada aplicación como un servicio aislado, contratado y cobrado por uso, la empresa decidió crear una nueva alternativa con su propia “fábrica de IA”: una infraestructura dedicada sobre la que ya ha desarrollado una cartera diversificada de soluciones basadas en grandes modelos de lenguaje (LLM) de código abierto.
Hoy en día, la fábrica ya mantiene en producción aplicaciones como “Meu RH”, un agente que atiende a los empleados de la empresa y está integrado a Microsoft Teams; “Super Carol”, una asistente virtual para los clientes de Sem Parar en WhatsApp; el “Copiloto de Atención”, que ayuda a los operadores del centro de atención al cliente a ser más eficaces; y el “Robot de Recuperación de Ventas”, que recupera pedidos en línea interrumpidos por errores de registro. Cada nueva aplicación que ingresa a la fábrica utiliza la misma capacidad instalada, lo que aumenta el retorno de la inversión.
La “Fábrica de IA” nació para responder a una necesidad concreta: procesar y analizar grandes volúmenes de llamadas del centro de atención al cliente. Para ello, Sem Parar Corpay desarrolló una solución basada en IA que convierte miles de mensajes de texto y las grabaciones de voz en datos facilitando el análisis de las conversaciones, permitiendo identificar patrones relacionados con la conversión de ventas, las cancelaciones y el desempeño del servicio. Con base en el dimensionamiento del proyecto inicial, el procesamiento alcanza tiempos de respuesta inferiores a medio segundo, y la demanda relacionada con el procesamiento de mensajes consume solo alrededor de dos horas de la capacidad diaria disponible.
Para ello, la empresa creó una infraestructura propia de IA, desarrollada en colaboración con Dell Technologies, con tecnología de NVIDIA en la asignación de la infraestructura de TI.
De una aplicación específica a una «fábrica de IA»
Todo comenzó con un reto concreto: ¿cómo procesar y analizar grandes volúmenes de llamadas del centro de atención al cliente con agilidad, seguridad y costos predecibles?
La respuesta incluyó servidores Dell PowerEdge equipados con cuatro GPU NVIDIA H200, almacenamiento Dell PowerScale y la plataforma de software NVIDIA AI Enterprise, que actúa como una capa de software empresarial para hacer posible y acelerar el procesamiento de voz de la solución. El proyecto también contó con la participación de Ascenty en la asignación de la infraestructura de TI.
Entre las ventajas de esta innovación para el proyecto se encuentran el procesamiento de grandes volúmenes de audio con un tiempo de respuesta más corto; la disponibilidad de una plataforma validada, segura y orientada a la ejecución de modelos de IA; la simplificación de la implementación, la administración y la escalabilidad del entorno; el procesamiento local y un mayor control sobre la información confidencial, además de transformar los archivos de audio en textos estructurados, lo que permite análisis posteriores, como la búsqueda, la clasificación, la identificación de temas y la generación de insights.
“NVIDIA AI Enterprise es una solución completa para acelerar y optimizar el desarrollo y la implementación de la IA en las empresas al reunir microservicios, marcos de trabajo, modelos abiertos, bibliotecas y herramientas de ciencia de datos que maximizan el rendimiento de las GPU de NVIDIA para aplicaciones de IA agéntica. Por eso, en este proyecto, la plataforma no es solo un modelo para el análisis, el procesamiento y la transcripción de voz. La tecnología es la base necesaria para operar el proyecto con alto rendimiento, escalabilidad y confiabilidad», señala Marcio Aguiar, director de la división Enterprise de NVIDIA para América Latina.
En general, todos estos componentes conforman la infraestructura necesaria para transformar los datos generados por la operación en información que pueda ser procesada por modelos de IA. El resultado fue una estructura que no se limitó al caso de uso que motivó su creación, sino que ha ido incorporando nuevas aplicaciones a medida que la empresa las desarrolla o las migra desde soluciones maduras que anteriormente generaban costos por el consumo de tokens.
“La decisión de construir una infraestructura propia de inteligencia artificial surgió de la búsqueda de un mayor control sobre nuestros datos, costos y capacidad de evolución”, afirma Paulo Henrique Scrideli, vicepresidente de TI de Sem Parar Corpay. “Más que atender un caso de uso específico, que justificó la inversión inicial en el proyecto, queríamos construir una base que nos brindara mayor seguridad, privacidad y previsibilidad, además de la flexibilidad necesaria para incorporar algunas de las nuevas aplicaciones de IA a medida que surgieran nuevas oportunidades para el negocio”.
Según el dimensionamiento del proyecto, el procesamiento alcanza tiempos de respuesta inferiores a medio segundo, y la demanda relacionada con el procesamiento de mensajes consume solo alrededor de dos horas de la capacidad diaria disponible. De este modo, más del 90 % del tiempo de procesamiento puede aprovecharse para otras iniciativas de IA, ampliando el uso de la infraestructura y optimizando la inversión realizada.
“El principal desafío fue crear una infraestructura capaz de manejar datos críticos y confidenciales, ampliando el control y la gobernanza de la información y cumpliendo con los requisitos de la LGPD y la conformidad regulatoria. En este contexto, procesar los datos en un entorno propio fue estratégico para la empresa. Con nuestra Dell AI Factory, que cuenta con una solución de NVIDIA, hemos creado una base segura y escalable, preparada para satisfacer la demanda actual y dar cabida a nuevos proyectos de IA», destaca Diego Puerta, presidente de Dell Technologies en Brasil.
Más IA, con costos predecibles
Con la nueva estrategia llegó una nueva forma de administrar los costos, basada en capacidad dedicada, más predecible y compartida entre diferentes aplicaciones a medida que avanza el uso de la IA en la empresa.
Con una “fábrica de IA” interna, la empresa cuenta ahora con capacidad de procesamiento para diferentes aplicaciones, lo que le permite mantener un mayor control sobre los datos y los modelos de IA. La estrategia cobra relevancia ante las crecientes exigencias de seguridad, privacidad y protección de los datos de los clientes, incluida la LGPD, y crea un entorno más controlado para escalar nuevas iniciativas de IA.
La eficiencia de la infraestructura también es un componente importante de la estrategia. Al combinar una arquitectura dedicada con tecnologías optimizadas para cargas de trabajo de IA, Sem Parar Corpay busca aumentar el rendimiento y aprovechar mejor los recursos computacionales disponibles, lo que contribuye a un costo de procesamiento más eficiente.
Esta optimización cobra mayor relevancia a medida que crece el uso de la IA dentro de la empresa. Una infraestructura dedicada y más eficiente permite a Sem Parar Corpay ampliar el control sobre sus recursos computacionales y sus costos, con mayor previsibilidad sobre la inversión necesaria para procesar volúmenes crecientes de datos, además de maximizar el aprovechamiento de la capacidad instalada.
“Cuando hablamos de escalar la inteligencia artificial, no basta con considerar solo la capacidad computacional disponible, sino también la eficiencia con la que se utiliza. La optimización de modelos y cargas de trabajo permite realizar más procesamiento con la misma infraestructura, mejorando el aprovechamiento de los recursos y, en consecuencia, la relación entre costo y rendimiento. En el caso de Sem Parar Corpay, este enfoque ayuda a crear una base que puede atender el primer caso de uso y, progresivamente, dar cabida a nuevas aplicaciones de IA sin que los costos tengan que crecer en la misma proporción”, evalúa el director de la división Enterprise de NVIDIA para América Latina.
Las ganancias en eficiencia y la mejora en la relación costo-beneficio del procesamiento de tokens durante la inferencia ayudan a demostrar el potencial de la infraestructura, pero el aspecto más relevante radica en la posibilidad de aprovechar esa misma base tecnológica para ampliar la adopción de la IA y generar valor en nuevos casos de uso.
Cinco aplicaciones, una misma base
Este potencial ya ha comenzado a materializarse. La fábrica de IA cuenta con cinco aplicaciones en funcionamiento: la solución inicial de análisis de llamadas del centro de atención al cliente y otras cuatro que Sem Parar Corpay incorporó en octubre. En conjunto, estas herramientas abarcan distintos procesos del negocio, desde la atención al cliente hasta la gestión de recursos humanos y la recuperación de ventas.
- Super Carol. Asistente virtual de Sem Parar Corpay en WhatsApp, Super Carol responde automáticamente a las dudas y solicitudes de los clientes. Con la fábrica de IA, la empresa gana más autonomía para personalizar y mejorar continuamente las respuestas de la asistente.
- Copiloto de Atención. La herramienta apoya a los operadores del centro de atención durante las conversaciones con los clientes, lo que hace que la atención sea más ágil y precisa. En la nueva estructura, el copiloto se puede ajustar con mayor flexibilidad a las necesidades de la operación.
- Meu RH. Asistente virtual dirigido a los empleados, Mi RR. HH. aclara dudas y deriva las solicitudes de recursos humanos a través de los canales internos.
- Robot de recuperación de ventas. Cuando un pedido realizado en línea presenta un error de registro, la información se envía por correo electrónico para su gestión. El robot identifica estos mensajes, extrae y valida los datos, y completa el registro del pedido automáticamente, sin intervención manual.
En común, las cinco aplicaciones comparten ahora los beneficios que motivaron la creación de la fábrica: datos procesados en un entorno propio, mayor autonomía para desarrollar las soluciones y costos más predecibles a medida que crece el uso de la IA.
Próximos pasos
Además de estas cinco aplicaciones, la infraestructura instalada allana el camino para que Sem Parar Corpay desarrolle nuevos proyectos de IA. Esto ha incluido iniciativas de IA generativa y agentiva, copilotos para apoyar a los profesionales y automatización de procesos, entre otros.
Es el caso, por ejemplo, del uso de la visión computacional para identificar y verificar los ejes de los camiones en las casetas de peaje. Hoy en día, este tipo de verificación puede implicar un análisis manual de las imágenes. Con la IA, la empresa automatizará parte de este proceso y destinará a los profesionales a actividades de mayor valor agregado.
La aplicación, que aún se encuentra en fase de estudio, ilustra la lógica detrás de la infraestructura construida por Sem Parar Corpay: una misma base tecnológica puede sustentar diferentes aplicaciones, siempre y cuando se desarrollen y validen nuevos casos de uso.
Para la empresa, contar con la tecnología en casa significa ampliar el control sobre los datos y sobre la operación, ganar autonomía para desarrollar sus aplicaciones y generar mayor previsibilidad en los costos.
“Este proyecto crea nuevas opciones para optimizar los diferentes perfiles de demanda y establece una base para la siguiente etapa de nuestro camino hacia la inteligencia artificial. A partir de esta infraestructura, ya hemos incorporado a la fábrica soluciones para uso interno y de soporte a los clientes y, sobre todo, hemos abierto el camino para explorar nuevas aplicaciones a medida que identificamos oportunidades de generar eficiencia y valor para el negocio. El reto es ampliar gradualmente el uso de esta capacidad, llevando la IA a diferentes procesos y transformando la tecnología en una plataforma cada vez más transversal dentro de la empresa”, concluye Scrideli.
