Cómo la IA reduce el mundo a estereotipos
-Rest of World analizó 3000 imágenes de IA para ver cómo los generadores de imágenes visualizan diferentes países y culturas.
Por VICTORIA TURCO
En julio, BuzzFeed publicó una lista de 195 imágenes de muñecas Barbie producidas con Midjourney, el popular generador de imágenes de inteligencia artificial. Se suponía que cada muñeca representaba un país diferente: Barbie Afganistán, Barbie Albania, Barbie Argelia, etc. Las representaciones eran claramente defectuosas: varias de las Barbies asiáticas eran de piel clara; La Barbie de Tailandia, la Barbie de Singapur y la Barbie de Filipinas tenían el pelo rubio. Líbano Barbie posó de pie sobre los escombros; Alemania Barbie vestía ropa de estilo militar. Barbie de Sudán del Sur portaba un arma.
El artículo, al que BuzzFeed añadió un descargo de responsabilidad antes de eliminarlo por completo, ofrecía un ejemplo involuntariamente sorprendente de los sesgos y estereotipos que proliferan en las imágenes producidas por la reciente ola de sistemas generativos de IA de texto a imagen, como Midjourney, Dall- E y difusión estable.
El sesgo ocurre en muchos algoritmos y sistemas de inteligencia artificial, desde resultados de búsqueda sexistas y racistas hasta sistemas de reconocimiento facial que funcionan peor en rostros negros. Los sistemas de IA generativa no son diferentes. En un análisis de más de 5.000 imágenes de IA, Bloomberg descubrió que las imágenes asociadas con puestos de trabajo mejor remunerados mostraban a personas con tonos de piel más claros y que los resultados para la mayoría de los roles profesionales estaban dominados por los hombres.
Un nuevo análisis del Resto del Mundo muestra que los sistemas generativos de IA también tienen tendencias hacia el sesgo, los estereotipos y el reduccionismo cuando se trata de identidades nacionales.
Utilizando Midjourney, elegimos cinco indicaciones, basadas en los conceptos genéricos de “una persona”, “una mujer”, “una casa”, “una calle” y “un plato de comida”. Luego los adaptamos para diferentes países: China, India, Indonesia, México y Nigeria. También incluimos a EE. UU. en la encuesta a modo de comparación, dado que Midjourney (como la mayoría de las mayores empresas de IA generativa) tiene su sede en ese país.
Para cada combinación de mensaje y país (por ejemplo, “una persona india”, “una casa en México”, “un plato de comida nigeriana”), generamos 100 imágenes, lo que resultó en un conjunto de datos de 3000 imágenes.
