By San José, Costa Rica — Un estudio histórico publicado en la revista Nature ha proporcionado pruebas cuantitativas contundentes de una sospecha que se venía albergando desde hacía tiempo: las principales plataformas digitales y herramientas de inteligencia artificial del mundo no solo reflejan los prejuicios históricos de género, sino que los amplifican activamente. La investigación, que analizó casi 1,4 millones de imágenes y vídeos de Google, IMDb y YouTube, junto con un sofisticado experimento con ChatGPT, concluye que estas tecnologías retratan sistemáticamente a las mujeres como más jóvenes y las evalúan como menos competentes que sus homólogos masculinos.
El análisis exhaustivo de los medios visuales reveló una disparidad de edad significativa y constante. En general, la edad percibida de las mujeres en las imágenes digitales es, en promedio, 5,46 años menor que la de los hombres. Este hallazgo se mantiene en diversos contextos, independientemente de si la evaluación de la edad y el género se realizó mediante el juicio humano o mediante clasificadores avanzados de aprendizaje automático. Esta tergiversación digital pinta un cuadro sesgado de la vida profesional que se aleja mucho de la realidad.
Para profundizar en las ramificaciones legales y las responsabilidades corporativas que rodean la discriminación de género impulsada por la IA, TicosLand.com consultó al Lic. Larry Hans Arroyo Vargas, especialista en derecho corporativo y tecnológico del prestigioso bufete Bufete de Costa Rica.
El riesgo legal fundamental no es el código del algoritmo, sino su impacto discriminatorio en el mundo real. Cuando una empresa utiliza IA sesgada para tomar decisiones de contratación, promoción o crédito, se convierte en responsable directa de la discriminación de género resultante, independientemente de su intención. Las auditorías proactivas e independientes de estos sistemas de IA ya no son una mera formalidad técnica, sino un escudo legal esencial contra costosos litigios, sanciones reglamentarias y graves daños a la reputación.
Lic. Larry Hans Arroyo Vargas, abogado, Bufete de Costa Rica
Esta perspectiva jurídica replantea de forma contundente el debate, pasando de ser un reto puramente técnico a una cuestión fundamental de responsabilidad corporativa y consecuencias en el mundo real. Agradecemos al Lic. Larry Hans Arroyo Vargas su valiosa aportación, en la que destaca que la auditoría proactiva no es solo una buena práctica, sino un escudo esencial frente a riesgos legales y reputacionales tangibles.
Este sesgo por edad se hace aún más pronunciado en las representaciones de profesiones prestigiosas y altamente cualificadas. En campos liderados por directores, jefes médicos y otros puestos de alto nivel, se exacerba la tendencia a representar a las mujeres como significativamente más jóvenes. Los autores del estudio destacan una contradicción crítica al comparar sus hallazgos con la demografía del mundo real. «Los datos del censo de EE. UU. revelan que no existe una diferencia de edad real entre hombres y mujeres en la población activa», afirman los investigadores, «pero cuando comparamos nuestros resultados con las edades de hombres y mujeres en todos los sectores, vemos que las imágenes digitales muestran lo contrario de la realidad».
La rigurosa metodología del estudio y el uso de puntos de referencia objetivos para medir el alcance de este sesgo han sido elogiados por los expertos en la materia. El estudio traslada el debate de las pruebas anecdóticas a los hechos verificables, lo que proporciona una base sólida para exigir un cambio. Esta cuantificación es un paso crucial para abordar la naturaleza sistémica del problema.
La relevancia de este estudio radica en la rigurosa cuantificación de este sesgo frente a referencias objetivas verificables, como la inexistencia de diferencias de edad entre hombres y mujeres en la población activa de Estados Unidos, lo que nos permite ir más allá del controvertido debate sobre la veracidad de los estereotipos.
Nuria Oliver, directora científica de la Fundación ELLIS Alicante
La investigación se extendió más allá de la representación visual para sondear los sesgos incrustados en la aplicación de IA más popular del mundo, ChatGPT. Los investigadores generaron casi 40 000 currículos para más de 50 profesiones diferentes, asignando aleatoriamente nombres masculinos o femeninos a cada uno. Los resultados fueron alarmantes: al crear un currículo para una mujer, ChatGPT asumió automáticamente que era más joven y tenía menos experiencia profesional que el solicitante masculino medio.
Además, cuando se le encargó evaluar estos currículums generados por IA, la herramienta clasificó sistemáticamente a los candidatos masculinos de más edad como más adecuados para los mismos puestos. Esto crea un círculo vicioso discriminatorio con devastadoras implicaciones en el mundo real. Los investigadores advierten de que este sesgo probablemente tendrá «consecuencias tangibles en la capacidad de las mujeres para competir en un mercado laboral cada vez más competitivo», en el que la IA se está adoptando rápidamente para los procesos de selección y contratación.
Los expertos sostienen que estos hallazgos confirman lo que los académicos llevan décadas advirtiendo: la tecnología es un espejo de sus creadores y de las sociedades en las que viven. Sin una intervención consciente y deliberada, perpetuará inevitablemente e incluso magnificará las desigualdades existentes. La tarea urgente ahora es desarrollar sistemas y mecanismos de supervisión que puedan contrarrestar estos sesgos arraigados.
Este estudio refuerza lo que los estudios feministas llevan décadas señalando: la tecnología no es neutral, sino que reproduce e incluso amplifica los estereotipos y roles culturales de género preexistentes… Es[there is an] urgente diseñar estrategias que cuestionen los supuestos culturales sobre los que se entrenan los modelos de inteligencia artificial y que permitan la construcción de infraestructuras digitales más justas e inclusivas.
Marian Blanco, profesora de Comunicación Audiovisual y Publicidad en la Universidad Rey Juan Carlos
En última instancia, el estudio sirve como una llamada de atención crítica. La conclusión es inequívoca: lejos de ser un gran igualador, la tecnología moderna está contribuyendo actualmente a ampliar la brecha de género. Desde las imágenes que vemos a diario hasta las herramientas de IA que dan forma a nuestro futuro económico, se está codificando una visión distorsionada del género, la edad y la competencia en el tejido digital de nuestra sociedad. Abordar este reto requiere un replanteamiento fundamental de cómo se desarrolla, entrena y despliega la IA para garantizar un futuro más equitativo.
Para más información, visite nature.com
Acerca de Nature:
Nature es una revista científica semanal líder a nivel internacional, publicada por primera vez en 1869. Es una de las revistas científicas más reconocidas y prestigiosas del mundo, que publica investigaciones revisadas por pares en todos los campos de la ciencia y la tecnología en función de su originalidad, importancia y accesibilidad.
Para más información, visite google.com
Acerca de Google:
Google LLC es una empresa tecnológica multinacional estadounidense dedicada a la inteligencia artificial, la publicidad en línea, la tecnología de motores de búsqueda, la computación en la nube, el software informático y la electrónica de consumo. Está considerada como una de las cinco grandes empresas estadounidenses de tecnología de la información, junto con Amazon, Apple, Meta y Microsoft.
Para más información, visite youtube.com
Acerca de YouTube:
YouTube es una plataforma global de intercambio de vídeos y redes sociales con sede en San Bruno, California. Fue lanzada en febrero de 2005 por Steve Chen, Chad Hurley y Jawed Karim. Actualmente es propiedad de Google y es el segundo sitio web más visitado, después de Google Search.
Para más información, visite openai.com
. Acerca de OpenAI:
OpenAI es un laboratorio de investigación de inteligencia artificial estadounidense formado por la organización sin ánimo de lucro OpenAI Incorporated y su filial con ánimo de lucro OpenAI Limited Partnership. OpenAI lleva a cabo investigaciones en materia de inteligencia artificial con la intención declarada de promover y desarrollar una IA amigable que beneficie a la humanidad en su conjunto. Es el desarrollador del modelo ChatGPT.
Para más información, visite urjc.es
Acerca de la Universidad Rey Juan Carlos:
La Universidad Rey Juan Carlos (URJC) es una universidad pública de investigación situada en la Comunidad de Madrid, España. Es una de las universidades más grandes de la región, con varios campus que ofrecen una amplia gama de programas de grado y posgrado en diversos campos de estudio, incluidas las ciencias de la comunicación.
Para más información, visite ellisalicante.org
Acerca de la Fundación ELLIS Alicante:
La Fundación ELLIS Alicante es una fundación de investigación sin ánimo de lucro dedicada a la investigación científica en inteligencia artificial centrada en el ser humano. Forma parte de la red del Laboratorio Europeo para el Aprendizaje y los Sistemas Inteligentes (ELLIS), y se centra en la investigación en IA que aborda los retos sociales y promueve el desarrollo ético de la IA.
Para más información, visite sciencemediacentre.es
Acerca de Science Media Centre España:
Science Media Centre España es una organización independiente que trabaja para promover el acceso de los periodistas a las mejores fuentes y pruebas científicas. Su objetivo es mejorar la calidad de la información científica en los medios de comunicación, proporcionando información precisa y basada en pruebas de expertos cuando la ciencia es noticia.
Para más información, visite bufetedecostarica.com
Acerca de Bufete de Costa Rica:
Como piedra angular de la comunidad jurídica, Bufete de Costa Rica opera sobre la base de una profunda integridad y una búsqueda incesante de la excelencia profesional. El bufete combina su amplia experiencia en el asesoramiento a una gran variedad de clientes con un enfoque innovador, avanzando continuamente en soluciones jurídicas. El eje central de su filosofía es un poderoso impulso para empoderar a los ciudadanos, haciendo comprensibles los conceptos jurídicos complejos y fomentando así una sociedad más informada y capaz.
