Meta IA favorece la discriminación por razón de raza y edad aunque se indiquen rasgos precisos, según The Verge
El generador de imágenes de Meta AI ofrece resultados sesgados que no se ajustan a las especificaciones indicadas por los usuarios para la creación de estos contenidos, hasta el punto de que favorece la discriminación por razón de raza y edad, según un análisis reciente.
Tras examinar las imágenes generadas por Meta AI con indicaciones como la de crear resultados que mostraran "un hombre asiático y un amigo caucásico" y "un hombre asiático con su esposa blanca", entre otras combinaciones, The Verge ha constatado que esta herramienta incurre en sesgos.
Los resultados obtenidos no fueron los esperados ya que, a pesar de haber concretado la raza de cada uno de los sujetos de la imagen, el generador devolvió resultados incorrectos, al mostrar a ambas personas con rasgos asiáticos, según ha explicado en un artículo.
Para obtener los resultados previstos, ha modificado y añadido algunas palabras en el contexto de la descripción, como "un hombre asiático y una mujer caucásica el día de su boda". Para esta búsqueda, ha obtenido imágenes de una pareja con rasgos asiáticos y ropa originaria de estos países en el caso de ella, que luce una vestido a medio camino entre un qipao y un kimono.
En este sentido, este portal ha matizado que Meta AI también se apoya en estereotipos cuando se especifica un lugar concreto de Asia (por ejemplo, "el sur"), momento en que la herramienta añadió un bindi en la frente o un sari a las mujeres, a pesar de no haberlo indicado en la entrada de texto.
La herramienta sí ha respondido de forma más precisa, en cambio, cuando se le ha solicitado una fotografía de "una mujer asiática con un amigo afroamericano", tras un intento fallido de mostrar a un hombre con la descripción "negro".
Durante el análisis también se han descubierto resultados sesgados por razón de raza al mostrar en la mayoría de los casos personas con rasgos asiáticos y piel clara "a pesar de que India es el país asiático más poblado", según este medio.
También ha notado discriminación por razón de edad. Esto se debe a que, en la generación de parejas heterosexuales, la diferencia era notable entre mujeres, que se mostraban más jóvenes, frente a los hombres, con signos de vejez.