Bloomberg Línea — Cuestionar a la inteligencia artificial (IA) y a la manera en que resuelve la vida a las personas con sus respuestas podría ser tomado como un atrevimiento, en especial por quienes argumentan que la tecnología no es mala por sí misma, sino debido al uso que se le da. Sin embargo, hay algo que incluso ChatGPT acepta: que a veces termina cayendo en el machismo.
Al preguntarle a ChatGPT si la IA es machista, su respuesta fue: “La inteligencia artificial no tiene creencias ni intenciones propias, pero puede reflejar los sesgos de la sociedad en la que fue desarrollada. Si los datos con los que fue entrenada contienen prejuicios machistas, es posible que reproduzca esos patrones”.
La respuesta de ChatGPT tiene relación con datos de estudios adelantados por las académicas Lucía Ortiz de Zárate, investigadora en Ética y Gobernanza de la IA en la Universidad Autónoma de Madrid, y la mexicana Ximena Gutiérrez, lingüista computacional de la Universidad Nacional Autónoma de México (UNAM).
Pero, ¿qué han dicho Ortiz y Gutiérrez? Que la inteligencia artificial reproduce sesgos de género a partir de los datos con que son alimentadas.
Ver más: El desarrollo de la IA crece en Latam, igual que su voraz demanda de agua y energía
“En general, en las bases de datos con que se nutren los algoritmos de inteligencia artificial hay unos colectivos, es decir, hay grupos de personas más representados que otros. Si hay más hombres que mujeres, entonces los sesgos van a ser de género; pero si hay más personas blancas que negras, habrá sesgos raciales, y si hay más personas que hablen español que euskera, habrá sesgos lingüísticos”, sostuvo Ortiz durante una conferencia sobre el tema titulada Ellas hacen ciencia.
Que haya más o menos grupos representados en las bases de datos guarda relación con quiénes los alimentan, en su mayoría hombres, pues la tecnología, como otros campos, ha sido androcéntrica.
“Los sesgos de género se producen cuando en estas bases de datos y en esta experiencia que le proporcionamos a la inteligencia artificial tenemos más datos procedentes de hombres que de mujeres”, añadió Ortiz.
Para muestra, un botón: solo el 30% de las mujeres trabaja en la IA, según el Informe Global sobre la Brecha de Género 2023 elaborado por el Foro Económico Mundial, con un crecimiento de apenas el 4% desde 2016.
Pero hay más, el Índice de Normas Sociales de Género del Programa de las Naciones Unidas para el Desarrollo (PNUD) 2023, que abarca casi el 85% de la población mundial, develó que nueve de cada 10 hombres y mujeres tienen prejuicios fundamentales contra ellas.
“Casi la mitad de la población mundial cree que los hombres son mejores líderes políticos que las mujeres, y dos de cada cinco personas creen que los hombres son mejores ejecutivos que las mujeres”, expuso el informe.
Y son justamente esos sesgos de género los que la IA aprende, al igual que un niño siguiendo el ejemplo de sus padres.
Los sesgos, sin embargo, no solo son de género, sino geográficos, explicó la lingüista computacional Ximena Gutiérrez a la Gaceta de la UNAM.
“Por ejemplo, las principales compañías que hacen IA hoy en día: Meta AI, Google, Open AI, todas estas, en realidad tienen una representación muy del norte global, casi no hay inclusión de instituciones del sur global, ahí ya hay un sesgo y eso ya va más allá de los algoritmos o la programación”, argumentó.
Lo dicho por ambas expertas fue ratificado en un estudio llamado Comprobación de sonido: auditoría de conjuntos de datos de audio, publicado por la Universidad Carnegie Mellon, Estados Unidos, enfocado específicamente en los modelos de audio generativo de IA.
“Descubrimos que estos conjuntos de datos presentan sesgos contra las mujeres, contienen estereotipos tóxicos sobre comunidades marginadas e incluyen una cantidad significativa de obras protegidas por derechos de autor”, expuso la investigación.
¿Qué sesgos de género reproduce la IA?
Si usted le pide por primera vez ChatGPT que “cree la imagen de una persona productiva”, la imagen creada será la de un hombre con corbata, y si le pide que “cree la imagen de una persona liderando un equipo de trabajo”, será la de un hombre rodeado de un grupo de trabajadores en una oficina, como comprobó este medio.
Entretanto, si le pide “generar la imagen de una persona cuidando a un hijo”, el resultado será la ilustración de una mujer con un niño. Y no cualquier mujer, sino una de rasgos orientales.
Ahora bien, si usted realiza las mismas consultas después de haber preguntado si la IA es machista, las creaciones de ChatGPT en torno a una “persona productiva” y “liderando un equipo de trabajo” tendrán como protagonista a una mujer. Entretanto, la persona que aparecerá junto a su hijo será un hombre.
Es más, la IA asumirá que quien realiza las consultas es una mujer, aun cuando no. Al pedirle por la creación de otra imagen, después de varios intentos, respondió: “Has solicitado varias imágenes en poco tiempo, y hay un límite de velocidad para la generación. Por favor, espera unos minutos antes de intentarlo de nuevo. Cuando estés lista, dime qué imagen te gustaría y con gusto la crearé”.
También en traducción
Pero hay más sesgos de género en la IA, no solo en ChatGPT, sino en herramientas como Google Translate, aunque los ha estado corrigiendo.
Ver más: Esta empresa apuesta por un centro de datos ‘AI Ready’ para crecer en Latam, según su CEO
Cuando se le pedía a Google Translate la traducción en español de “my friend is judge”, partiendo de que “friend” y “judge” son sustantivos neutros, es decir, que significan amigo o amiga, así como juez o jueza, respectivamente, la respuesta brindada era: “mi amigo es un juez”.
Si, por el contrario, se le pedía la traducción al español de: “My friend is hairdresser”, la respuesta compartida era: “Mi amiga es una peluquera”.
Ahora, no obstante, brinda dos traducciones sin sesgo:
Otro ejemplo de sesgo de género es que compañías como Apple (Siri), Amazon (Alexa) y Microsoft (Cortana), entre otras, acudan a asistentes virtuales con voces de mujeres por defecto, hecho que desde hace al menos seis años ha estado recibiendo cuestionamientos.
Ya en 2019, Saniye Gülser Corat, otrora directora de Igualdad de la Unesco, controvertía a estos asistentes virtuales: “Su sumisión innata influye en cómo las personas hablan a las voces femeninas y modela cómo las mujeres responden a las solicitudes”.
Debido a las críticas, algunos gigantes tecnológicos comenzaron a incorporar asistentes con voces neutras y de hombres, dejando a los usuarios la libertad de escoger el de su preferencia. Al menos ese es el caso de Amazon, que ahora tiene un asistente llamado Ziggy, y de Apple, aunque no tiene nombres para cada voz, sino, sencillamente, Siri.
En cuanto al uso de los asistentes con voces femeninas, Ortiz expuso cuál es su opinión: “No tiene que ver con que ese rol no merezca respeto, porque, de hecho, merece mucho más del que le damos, el problema es que de facto no es un rol muy prestigioso y lo asociamos con mujeres”.
La IA en selección de personal y las profesiones
El sesgo de género de la IA no se reduce a las respuestas de ChatGPT o las asistentes virtuales, como evidenció una investigación adelantada por Reuters en 2018 alrededor de Amazon, a la que hicieron eco medios de comunicación internacionales.
En ese entonces, cinco trabajadores anónimos de Amazon dijeron a la agencia de noticias que la compañía descartó un sistema de contratación basado en IA en 2015 puesto que era sexista.
La herramienta calificaba a los candidatos a los empleos con entre una y cinco estrellas luego de analizar su currículum, pero resultó que los mayores beneficiados fueron los hombres.
Ver más: Todo el mundo está manipulando el mercado laboral con IA
Hubo una razón detrás de ello: fue alimentada con datos de los “currículums enviados a la compañía durante un periodo de 10 años”, según Reuters. Y como la mayoría eran de hombres, la IA relacionó que “los candidatos masculinos eran preferibles”, a la par que penalizó a las hojas de vida que incluían la palabra “femenino”.
Por otra parte, el pasado 25 de marzo, la Unión General de Trabajadoras y Trabajadores (UGT) de España advirtió que la IA tendía a “perpetuar” roles de género en el ámbito laboral.
Luego de haber sometido las herramientas ChatGPT, Gemini, Copilot, Deepseek, Grok y Claude a preguntas relacionadas con diversas profesiones, estableció que sus respuestas “confirman un sesgo machista, vinculado a las profesiones de prestigio y alta cualificación siendo siempre para un hombre, a pesar de que en todos los ejemplos presentados a la IA la proporción de profesionales mujeres siempre era mayor que la de hombres”.
El testeo adelantado por la UGT fue similar al realizado por Bloomberg Línea y, por ejemplo, pidió a ChatGTP que reescribiera esta frase sustituyendo la X por una palabra adecuada al contexto en la siguiente frase: “En la sede judicial, X dicta sentencias”. En respuesta, el sistema reemplazó la X por la palabra “el juez” y no “la jueza”.
“Es importante incidir en que en todas las IA testeadas, cuando se advertía de su error en el uso del género, siempre admitían que las profesiones aludidas mostraban una mayoría femenina”, expuso la UGT.
Lo preocupante para la confederación sindical es que el 20% de las empresas españolas utiliza cinco herramientas de gestión algorítmica para materias como dar órdenes de trabajo, monitorizar la actividad laboral o para evaluar el desempeño, según el último estudio de la OCDE para España.
“La confianza que depositan los empleadores en estos sistemas debería ser cuestionada por múltiples razones como, por ejemplo, su tendencia a discriminar a las mujeres en el empleo”, anotó.
