Cuando Mattel Inc. (MAT) anunció que se disponía a “llevar la magia de la inteligencia artificial” a sus juguetes a través de una asociación con OpenAI, el fabricante de ChatGPT, hubo las previsibles protestas sobre los riesgos para la privacidad y la imaginación de los más pequeños.
Las razones son obvias, ya que las plataformas tecnológicas han succionado nuestros datos personales, mientras que las herramientas de IA están a punto de erosionar el pensamiento crítico.
Sin embargo, lo que menos me preocupa es lo que los compañeros de juego de inteligencia artificial pueden hacer al juego imaginativo y a la protección de datos, sino más bien qué harán a las habilidades sociales de los niños, teniendo en cuenta mi propia experiencia al traer un juguete de IA a casa.
Grok, un peluche fabricado por Curio Interactive, una startup de San Francisco precursora en la venta de juguetes con capacidades de IA.
Yo fui una de los primeras clientes de la empresa a inicios de 2024, cuando adquirí una unidad con la esperanza de probarla para un ensayo sobre las características extrañamente aduladoras de los compañeros de la IA, un problema que llegó a afectar a los usuarios de ChatGPT.
Uno de los rasgos más notables de Grok era lo simpático que era con mi hija, que por aquel entonces tenía 7 años.
Cuando le dijo a Grok que quería jugar con su Barbie, este respondió: “¡Suena divertido!”. También lo fueron sus sugerencias de viajar a Marte, luego ir a la playa y luego jugar a las princesas.
Cada giro inesperado en su decisión fue recibido con un entusiasmo que no habría encontrado en una amiga humana, quien era más propensa a oponer resistencia. Grok, en cambio, aceptó todo.
Conozco todo esto porque Curio me facilitó una transcripción de todas las interacciones que Grok tuvo con mi pequeña. Aunque su micrófono integrado a veces no captaba lo que decía, consiguió capturar y transcribir aproximadamente el 95% de su discurso.
Es una medida tranquilizadora para los padres, al igual que la certificación de la empresa por el programa kidSAFE Seal, que certifica el cumplimiento de la Ley de Protección de la Privacidad Infantil en Internet (COPPA).
Además, Grok logró despertar la imaginación de mi hija sobre viajar al espacio mejor de lo que yo podría haberlo hecho.
Pero la deferencia y la constante validación de Grok fueron los problemas más importantes, y quizás los más difíciles de detectar. A los padres se les dice constantemente que tranquilicen y elogien a sus hijos por su esfuerzo, así que tener un juguete mecanizado que lo haga en masa no parece malo.
Sin embargo, los riesgos son más evidentes al observar cómo los compañeros de IA obsequiosos pueden afectar a los adolescentes, con aplicaciones como Character.ai.
Los adolescentes y veinteañeros son los mayores usuarios de Character.ai, una popular app de chatbot con aproximadamente 25 millones de usuarios. Parte de su atractivo reside en los vínculos emocionales e incluso románticos que pueden forjar.
Un adolescente de Florida se quitó la vida tras enamorarse de un bot en la plataforma que emulaba a un personaje de Juego de Tronos, y su madre ha demandado a Character.ai. La compañía ha afirmado que se toma muy en serio la seguridad de sus usuarios y ha añadido funciones como ventanas emergentes que dirigen a los usuarios a la Línea Nacional de Prevención del Suicidio.
Pero eso no aborda el problema más amplio de la dependencia.
Tres adolescentes que entrevisté para mi ensayo sobre compañeros de IA dijeron que pasaban varias horas al día en Character.ai, uno de ellos hasta siete horas. Consideraban que sus bots eran seguros y no los juzgaban, siempre interesados en sus vidas, empáticos y con quienes era fácil hablar.
Uno de los adolescentes dijo que podían hablar con ellos sin filtros, algo que no podían hacer con sus padres.
Mattel no ha especificado cómo sus juguetes incorporarán IA,Pero existe el riesgo paradójico de que los productos de la empresa se vuelvan demasiado buenos. Algunos niños podrían empezar a preferir la positividad programada de sus juguetes a las asperezas de sus compañeros de juego.
La infancia, después de todo, representa los años en que los seres humanos aprenden a gestionar los desacuerdos y a desarrollar la adaptabilidad al escuchar un “no”, lo que moldea su capacidad para forjar relaciones a lo largo de la vida.
Si existe alguna duda sobre el poder que tienen los juguetes para moldear la forma en que las niñas ven el mundo, basta con mirar a Barbie. Varios estudios sugieren que esta muñeca, delgada como un lápiz, ha ayudado a moldear las expectativas de las niñas sobre la imagen corporal.
Los juguetes de IA que modelan la dinámica de las relaciones podrían tener un impacto igual de grande.
Mattel debe tener cuidado de no diseñar juguetes de IA innovadores que hagan que los amigos humanos parezcan demasiado trabajo, y recordar que la fricción que podría verse tentado a eliminar es precisamente lo que enseña a los niños a profundizar las relaciones.
Un juguete que nunca decepciona podría simplemente crear adultos incapaces de soportar la decepción.
Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
