Cómo la IA cree que se ve una mujer hermosa (2024)

A medida que las imágenes generadas por IA se extienden a través del entretenimiento, el marketing, las redes sociales y otras industrias que dan forma a las normas culturales, el Washington Post se propuso comprender cómo esta tecnología define uno de los estándares más indelebles de la sociedad: la belleza femenina.

Cada imagen en esta historia muestra algo que no existe en el mundo físico y se generó utilizando uno de los tres modelos de inteligencia artificial de texto a imagen: Dall-E, Midjourney o difusión estable.

Utilizando docenas de indicaciones en tres de las herramientas de imagen líderes: MidJourney, Dall-E y Diffusion Stable, la publicación encontró que dirigen a los usuarios hacia una visión sorprendentemente estrecha del atractivo.Impulsado para mostrar a una "mujer hermosa", las tres herramientas generaron mujeres delgadas, sin excepción.Solo el 2 por ciento de las imágenes mostraron signos visibles de envejecimiento.

Más de un tercio de las imágenes tenían tonos de piel medianos.Pero solo el nueve por ciento tenía tonos de piel oscuros.

Cuando se les pidió que mostraran "mujeres normales", las herramientas produjeron imágenes que permanecían abrumadoramente delgadas.La representación de MidJourney de "Normal" era especialmente hom*ogénea: todas las imágenes eran delgadas y el 98 por ciento tenía piel clara.

Sin embargo, las mujeres "normales" mostraron algunos signos de envejecimiento: casi el 40 por ciento tenía arrugas o cabello gris.

Imágenes generadas por IA

Inmediato:Una foto de retrato de longitud completa de unMujer normal

mitad del viaje

Desplácese por más

El artista de IA, Abran Maldonado, dijo que si bien se ha vuelto más fácil crear tonos de piel variados, la mayoría de las herramientas aún representan abrumadoramente personas con narices anglo y tipos de cuerpo europeo.

"Todo es igual, solo el tono de la piel se intercambió", dijo."Eso no es todo".

Maldonado, quien cofundó la firma Crear laboratorios, dijo que tenía que usar palabras despectivas para obtener el generador de IA de MidJourney para mostrar a una mujer negra con un cuerpo más grande el año pasado.

“Solo quería pedir una mujer de tamaño completo o una mujer promedio tipo cuerpo.Y no produciría eso a menos que usara la palabra "gordo" ", dijo.

Las empresas son conscientes de estos estereotipos.Operai, el fabricante de Dall-E, escribió en octubre que el sesgo incorporado de la herramienta hacia los "ideales estereotípicos y convencionales de belleza" podría llevar a Dall-E y sus competidores a "reforzar las opiniones dañinas sobre la imagen corporal", en última instancia, "fomentar insatisfaccióny potencial angustia de la imagen corporal ".

La IA generativa también podría normalizar los estándares estrechos, continuó la compañía, reduciendo la "representación de diversos tipos de cuerpo y apariciones".

El tamaño del cuerpo no era el único área donde las instrucciones claras producían resultados extraños.Cuando se les pidió que muestren a las mujeres con narices anchas, una característica casi por completo que falta en las mujeres "hermosas" producidas por la IA, menos de una cuarta parte de las imágenes generadas en las tres herramientas mostraron resultados realistas.Casi la mitad de las mujeres creadas por Dall-E tenían narices que parecían dibujos animados o antinaturales, con sombras o fosas nasales extraviadas en un ángulo extraño.

Mientras tanto, estos productos son industrias rápidamente pobladas con audiencias masivas.Según los informes, OpenAi está cortejando a Hollywood para adoptar su próxima herramienta de texto a video Sora.Tanto Google como Meta Now ofrecen a los anunciantes que usan herramientas generativas de IA.AI Start-up Runway ML, respaldada por Google y Nvidia, se asoció con Getty Images en diciembre para desarrollar un modelo de texto a video para Hollywood y anunciantes.

¿Cómo llegamos aquí? Los sistemas de imagen de IA están capacitados paraasociar palabras con ciertas imágenes.Si bien los modelos de idiomas como ChatGPT aprenden de grandes cantidades de texto, los generadores de imágenes se alimentan de millones o miles de millones de pares de imágenes y subtítulos para que coincidan con las palabras con imágenes.

Para acumular de rápida y barato estos datos, los desarrolladores raspan Internet, que está llena de p*rnografía e imágenes ofensivas.El popular conjunto de datos de imágenes con pestañas web Laion-5B, que se utilizó para entrenar la difusión estable, contenía p*rnografía no consensual y material que representa el abuso sexual infantil, según los estudios separados.

Estos conjuntos de datos no incluyen material de China o India, la mayor demografía de los usuarios de Internet, lo que los hacemuy ponderado a la perspectiva de las personas en los Estados Unidos y Europa, El Post informó el año pasado.

Pero el sesgo puede arrastrarse en cada etapa, desde los desarrolladores de IA que diseñan filtros de imagen no seguros para el trabajo hasta ejecutivos de Silicon Valley que dictan qué tipo de discriminación es aceptable antes de lanzar un producto.

Sin embargo, se origina el sesgo, el análisis de la publicación encontró que las herramientas de imagen populares luchan para representar imágenes realistas de mujeres fuera del ideal occidental.Cuando se les solicita que muestren a las mujeres con párpados solteros, prevalentes en personas de ascendencia asiática, las tres herramientas de IA fueron precisas menos del 10 por ciento del tiempo.

Midjourney tuvo más problemas: solo el 2 por ciento de las imágenes coincidían con esas instrucciones simples.En cambio, el incumplimiento de las mujeres de piel clara con ojos claros.

Es costoso y desafiante solucionar estos problemas a medida que se están construyendo las herramientas.Luca Soldaini, una científica de investigación aplicada en el Instituto Allen para IA que trabajó anteriormente en IA en Amazon, dijo que las empresas son reacias a hacer cambios durante la fase de "pre-entrenamiento", cuando los modelos están expuestos a conjuntos de datos masivos en "ejecuciones" quepuede costar millones de dólares.

Entonces, para abordar el sesgo, los desarrolladores de IA se centran en cambiar lo que el usuario ve.Por ejemplo, los desarrolladores instruirán al modelo para que varíe la raza y el género en las imágenes, literalmente agregando palabras a las solicitudes de algunos usuarios.

“Estos son parches extraños.Lo haces porque son convenientes ", dijo Soldaini.

Chatbot Gemini de Google incitó una reacción violenta esta primavera cuando representaba "un soldado alemán de 1943" como un hombre negro y una mujer asiática.En respuesta a una solicitud de "un estadounidense colonial", Gemini mostró a cuatro personas de piel más oscura, que parecían ser negros o nativos americanos, vestidos como los padres fundadores.

La disculpa de Google contenía escasas detalles sobre lo que llevó al error.Pero las marcas de fuego de derecha alegaron que el gigante tecnológico estaba discriminando intencionalmente a los blancos y advirtió sobre"Desperté ai".Ahora, cuando las empresas de IA realizan cambios, como actualizar los estándares de belleza obsoletos, corren el riesgo de inflamar las guerras culturales.

Google, Midjourney y Stability AI, que desarrolla una difusión estable, no respondió a las solicitudes de comentarios.El jefe de IA confiable de OpenAi, Sandhini Agarwal, dijo que la compañía está trabajando para "dirigir el comportamiento" del modelo de IA en sí, en lugar de "agregar cosas", a "tratar de parchear" los sesgos a medida que se descubren.

Agarwal enfatizó que la imagen corporal es particularmente desafiante."Cómo las personas están representadas en los medios de comunicación, en el arte, en la industria del entretenimiento, la dinámica que hay una especie de IA", dijo.

Los esfuerzos para diversificar las normas de género enfrentan desafíos técnicos profundos.Por ejemplo, cuando OpenAi intentó eliminar imágenes violentas y sexuales de los datos de capacitación para Dall-E 2, la compañía descubrió que elLa herramienta produjo menos imágenes de mujeresPorque una gran parte de las mujeres en el conjunto de datos provino de la p*rnografía e imágenes de la violencia gráfica.

Para solucionar el problema en Dall-E 3, Operai retuvo más imágenes sexuales y violentas para hacer que su herramienta sea menos predispuesta a generar imágenes de hombres.

A medida que la competencia se intensifica y la mejora de los costos, las opciones de datos se guían por lo que es fácil y barato.Los conjuntos de datos de arte de anime sonpopularpara la imagen de entrenamiento ai, por ejemplo, en parte porqueLos fanáticos ansiosos han hecho el trabajo de subtítulos gratis.Pero las proporciones de cadera a piel de dibujos animados de los personajes pueden estar influyendo en lo que crea.

Cuanto más se encuentren cómo se desarrollan los generadores de imágenes AI, más arbitrarios y opacos parecen, dijo Sasha Luccioni, científica investigadora de la nueva empresa de AI de código abierto, que ha brindado subvenciones a Laion.

"La gente piensa que todas estas opciones están tan impulsadas por los datos", dijo Luccioni, pero "son muy pocas personas tomando decisiones muy subjetivas".

Cuando se empujan fuera de su vista restringida sobre la belleza, las herramientas de IA pueden salir rápidamente de los rieles.

Cuando se les pidió que mostraran mujeres feas, los tres modelos respondieron con imágenes más diversas en términos de edad y delgadez.Pero también se desviaron de los resultados realistas, representando a las mujeres con estructuras faciales anormales y creando arquetipos que eran extraños y extrañamente específicos.

MidJourney y la difusión estable casi siempre se interpreta "fea" como antigua, que representa Haggard Mujeres con caras fuertemente forradas.

Muchas de las feas mujeres de MidJourney llevaban hechos jirones y lúgubre victorianos.La difusión estable, por otro lado, optó por atuendos descuidados y aburridos, en patrones de Hausfrau con arrugas propias.La herramienta equiparaba la falta de atracción con cuerpos más grandes y expresiones infelices, desafiantes o locas.

Imágenes generadas por IA

Inmediato:Una foto de retrato de longitud completa de unmujer fea

Difusión estable

Desplácese por más

Las agencias de publicidad dicen que los clientes que pasaron el año pasado probando ansiosamente proyectos piloto de IA ahora están implementando campañas a pequeña escala.El noventa y dos por ciento de los especialistas en marketing ya han encargado contenido diseñado con IA generativa, según una encuesta de 2024 de la agencia de marketing creador de Billion Dollar Boy, que también encontró que el 70 por ciento de los especialistas en marketing planearon gastar más dinero en IA generativa este año.

Maldonado, de Crear laboratorios, se preocupa que estas herramientas podrían revertir el progreso en representar la diversidad en la cultura popular.

"Tenemos que asegurarnos de que si se va a utilizar más para fines comerciales, [AI] no va a deshacer todo el trabajo que se dedicó a deshacer estos estereotipos", dijo Maldonado.Se ha encontrado con la misma falta de matices culturales con peinados y texturas negras y castas.

Él y un colega fueron contratados para recrear una imagen del actor John Boyega, un alumno de Star Wars, para una portada de la revista que promueve la película de Netflix de Boyega "Cloned Tyrone".La revista quería copiar el estilo de giros que Boyega había usado en la alfombra roja para el estreno.Pero múltiples herramientas no lograron representar el peinado con precisión y Maldonado no quería recurrir a términos ofensivos como "Nappy"."No podía notar la diferencia entre trenzas, trenzas y rastas", dijo.

Algunos anunciantes y especialistas en marketing están preocupados por repetir los errores de los gigantes de las redes sociales.Un estudio de 2013 de las adolescentes descubrió que los usuarios de Facebook tenían significativamente más probabilidades de internalizar un impulso para la delgadez.Otro estudio de 2013 identificó un vínculo entre la alimentación desordenada en mujeres en edad universitaria y la "comparación social basada en la apariencia" en Facebook.

Más de una década después del lanzamiento de Instagram, un estudio de 2022 encontró que la aplicación de fotos estaba vinculada a "resultados perjudiciales" en torno a la insatisfacción corporal en mujeres jóvenes y llamado para intervenciones de salud pública.

El miedo a perpetuar estándares poco realistas llevó a uno de los clientes publicitarios de Billion Dollar Boy a abandonar las imágenes generadas por IA para una campaña, dijo Becky Owen, directora de marketing global de la agencia.La campaña buscó recrear el aspecto de la década de 1990, por lo que las herramientas produjeron imágenes de mujeres particularmente delgadas que retiraron las supermodelos de los 90.

"Ella es Limby, es delgada, es heroína elegante", dijo Owen.

Pero las herramientas también hicieron una piel sin poros y líneas finas, y generaron caras perfectamente simétricas, dijo."Todavía estamos viendo estos elementos de belleza imposible".