Durante tres años, los chatbots se han convertido en el rostro de la IA generativa. Basta con escribir cualquier cosa en ellos para recibir una respuesta personalizada, que se convierte en un diálogo en apariencia mágico con una máquina.
Aunque esa interfaz conversacional podría parecer la mejor manera de aprovechar los grandes modelos lingüísticos (LLM, por sus siglas en inglés), algunas compañías están comenzando a prescindir de los chatbots, ya que les preocupa la responsabilidad y la pérdida de control.
Han descubierto que, aunque existan medidas de seguridad, los usuarios pueden “jailbreak” (desbloquear) la tecnología y hacer que un chatbot se aleje del tema, en ocasiones en direcciones peligrosas o desagradables.
Es posible que estén dejando pasar una oportunidad única, pero estas compañías también están creando productos potencialmente más seguros y específicos, y están planteando la pregunta de si los chatbots son en realidad la interfaz del futuro para la inteligencia artificial o solo una moda pasajera.
Una de las aplicaciones de inteligencia artificial más populares después de ChatGPT es Character.ai, que tiene unos 20 millones de usuarios activos al mes, muchos de ellos jóvenes que chatean con personajes de anime, libros o películas en su plataforma.
No obstante, este mes Character.ai, prohibirá a los menores de 18 años mantener conversaciones con sus chatbots, a raíz de las quejas sobre la excesiva dependencia que desarrollan los niños y, en algunos casos, el daño psicológico que sufren.
Su CEO, Karandeep Anand, dice que la empresa está dando un giro estratégico hacia una plataforma de entretenimiento y también adoptando un enfoque más prudente. “Es probable que no exista la tecnología o la investigación necesaria para garantizar la seguridad de la experiencia de acompañamiento de menores de 18 años durante un periodo de tiempo muy prolongado”, me explica.
Seis meses de investigación sobre el uso de modelos de audio y video también le han dado a su compañía “la firme convicción de que los chatbots no son necesariamente la mejor manera de desarrollar el mejor producto para el entretenimiento”, y que Character.ai puede concebir formas de ofrecer a los menores de 18 años experiencias que sean “mejores y más seguras”.
En vez de tener una charla abierta con un chatbot que puede ir a cualquier parte, Character.ai está modificando su interfaz para adolescentes para que haya más toques en botones y sugerencias de mensajes que escritura de texto, como si se tratara de un mensaje a un amigo.
“Se está creando una interfaz de usuario más personalizada, en lugar de ser simplemente un cuadro de texto donde se escribe”, dice Anand.
La cifra de usuarios de Character.ai, que en un momento llegó hasta los 26 millones, cayó a inicios de este año cuando Anand introdujo otro cambio radical en la compañía, prohibiendo las conversaciones de los chatbots que derivaban en contenido sexual o autolesiones. Pero poco a poco se ha recuperado, y el CEO cree que continuará así incluso después de su última medida.
Es un cambio que se puede hacer más fácilmente, ya que la propiedad de Character.ai está en manos de sus empleados y no está sujeta a los inversionistas.
Vitality Health, una unidad del grupo asegurador sudafricano Discovery, está adoptando un enfoque similar. Su modelo de negocio intenta incentivar un comportamiento saludable entre los suscriptores mediante recompensas y descuentos.
A comienzos de este mes, la compañía anunció una asociación con Google, de Alphabet Inc (GOOGL)., que usa el LLM de la empresa tecnológica, Gemini, para impulsar la aplicación principal de Vitality que utilizan los clientes. La nueva versión de la aplicación se lanzará en abril de 2026.
Si bien Gemini es más conocido como un chatbot, Vitality está optando por limitar la tecnología para que procese el lenguaje en segundo plano, mostrando principalmente texto, botones y opciones para que las personas hagan clic.
Podría, por ejemplo, mostrar un pequeño cuadro que anime a los usuarios a dar 2.500 pasos ese día para ganar puntos y recompensas. En otras palabras, Gemini puede ayudar a Vitality a “hablar” con sus clientes sin entablar una conversación.
La IA conversacional simplemente introduce demasiado riesgo e imprevisibilidad, lo cual no es ideal para la atención médica. “Tenemos que ser cuidadosos y reflexivos”, dice Emile Stipp, director general de Vitality AI y actuario jefe global de la compañía.
Oura Health, el fabricante finlandés del anillo Oura, adopta un enfoque diferente con su “asesor de IA”, un chatbot en la aplicación del dispositivo con el que los clientes pueden hablar sobre sus puntuaciones de sueño y otros datos biométricos.
Vitality dice que estudiará la posibilidad de agregar un entrenador similar para ayudar potencialmente a mejorar la calidad del sueño, pero la compañía aún no está lista para ponerlo en práctica
La limitación a menudo puede generar innovación, y parece probable que con el tiempo más empresas prefieran tener un mayor control y conocimiento de sus servicios digitales, en lugar de la fluidez aparentemente asombrosa de los chatbots.
Por supuesto, las empresas corren el riesgo de perderse una función moderna y atractiva que sus competidores podrían ofrecer en su lugar. Sin embargo, cambiar a sugerencias y botones en los que se puede hacer clic también facilita el uso de la IA.
La plataforma de IA de Elon Musk, Grok, por ejemplo, incluye sugerencias de plantillas en su herramienta de generación de imágenes (por ejemplo, se pueden editar imágenes al estilo acuarela o agregar alas de gran tamaño), lo que puede ser útil para personas con conocimientos limitados de gráficos.
También puede ser más seguro. En mi opinión, OpenAI debería considerar limitar ChatGPT, actualmente la interfaz de inteligencia artificial para consumidores más utilizada. Una futura herramienta de tareas para usuarios menores de 18 años, por ejemplo, podría ser más útil como una interfaz limitada y específica para un propósito, en lugar de una ventana de chat abierta.
El futuro de la inteligencia artificial podría no tener nada que ver con hablar con ella.
Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
