Imágenes sexualizadas y reclamos de artistas: Lo que debes saber sobre la app de retratos de inteligencia artificial

(CNN) – Si has iniciado sesión en alguna aplicación de redes sociales esta semana, probablemente hayas visto fotos de tus amigos reinventados como princesas de cuento, personajes de anime o seres celestiales.

Todo se debe a Lensa, una aplicación que utiliza inteligencia artificial para presentar retratos digitales basados en las fotos que envían los usuarios. Los retratos muy estilizados y llamativos de Lensa se han apoderado de Internet, pero también han sido motivo de preocupación para los expertos en privacidad. Asimismo, los artistas digitales y los usuarios que han notado que la aplicación hace que su piel sea más clara o sus cuerpos más delgados.

Esto es todo lo que debes saber sobre Lensa:

Las imágenes que circulan en línea son productos de la función “Avatares mágicos” de Lensa. Para probarlo, primero deberás descargar la aplicación Lensa en tu teléfono.

Una suscripción de un año a la aplicación, que también brinda servicios de edición de fotos, cuesta US$ 35,99. Pero puedes usar la aplicación en una prueba gratuita de una semana. La generación de los avatares mágicos requiere una tarifa adicional. Siempre que tengas una suscripción o una prueba gratuita, puedes obtener 50 avatares por US$ 3,99, 100 por US$ 5,99 o 200 por US$ 7,99.

Lensa recomienda a los usuarios enviar de 10 a 20 selfies para obtener los mejores resultados. Las imágenes deben ser primeros planos de tu cara con una variedad de diferentes fondos, expresiones faciales y ángulos. Lensa también estipula que el servicio solo debe ser utilizado por personas mayores de 13 años.

Lensa es un producto de Prisma, que alcanzó popularidad por primera vez en 2016 con una función que permite a los usuarios transformar sus selfies en imágenes al estilo de artistas famosos.

La aplicación explica en su política de privacidad que usan la tecnología API TrueDepth, y las fotos proporcionadas por el usuario, o “datos faciales”, se usan “para entrenar nuestros algoritmos para que funcionen mejor y muestren mejores resultados”.

Probamos la aplicación para ver cómo funciona

Para probar la aplicación, Zoe Sottile de CNN seleccionó 20 selfies que pensó mostraban una variedad de expresiones y ángulos y eligió la opción de 100 avatares. Lensa tardó unos 20 minutos en dar los avatares, que se dividían en 10 categorías: fantasía, hada, princesa, enfoque, pop, elegante, anime, ligero, kawaii, iridiscente y cósmico.

“En general, sentí que la aplicación hizo un trabajo decente al producir imágenes artísticas basadas en mis selfies. No podía reconocerme del todo en la mayoría de los retratos, pero podía ver de dónde venían. Parecía reconocer y repetir ciertas características, como mi piel pálida o mi nariz redonda, más que otras. Algunas de ellas tenían un estilo más realista y eran lo suficientemente parecidas como para pensar que en realidad eran fotos mías si las viera desde lejos. Otras eran significativamente más estilizadas y artísticas, por lo que me parecían menos específicas”, aseguró.

Para algunas mujeres, la aplicación produce imágenes sexualizadas

Sottile detalló que “uno de los desafíos que encontré en la aplicación ha sido descrito por otras mujeres en línea. Aunque en todas las imágenes que subí estaba completamente vestida y en su mayoría eran primeros planos de mi rostro, la aplicación devolvió varias imágenes con desnudez implícita o real“.

“En una de las imágenes más desorientadoras, parecía que una versión de mi cara estaba sobre un cuerpo desnudo. En varias fotos aparecía desnuda pero con una cobija colocada estratégicamente, o la imagen cortada para ocultar algo explícito. Y muchas de las imágenes, incluso cuando estaba completamente vestida, presentaban una expresión facial sensual, un escote significativo y ropa diminuta que no coincidía con las fotos que había enviado”, contó.

Olivia Snow, investigadora del centro de investigación crítica de Internet de UCLA y dominatriz profesional, le dijo a CNN que la aplicación devolvió imágenes de desnudos a su semejanza incluso cuando envió fotos de sí misma cuando era niña, una experiencia que documentó para WIRED.

Snow dijo que la tecnología de inteligencia artificial como la que usa Lensa podría usarse para generar “pornografía de venganza“, es decir, hacer imágenes desnudas de alguien sin su consentimiento. Para Snow, el resultado fue una señal de la “falta total de moderación del contenido” en la aplicación. También pidió una mayor regulación de las aplicaciones de IA como Lensa.

Lensa no respondió a una solicitud de CNN para comentar sobre la aplicación que produce imágenes de desnudos o sexualizadas.

Otros usuarios han documentado diferentes formas de sesgo producido en sus imágenes de Lensa, como los usuarios negros que aparecen “blanqueados” y se muestran más pálidos de lo que realmente son. Del mismo modo, Aubrey Gordon, escritora y activista por los derechos de las personas gruesas, escribió en su cuenta verificada de Instagram que la aplicación producía imágenes que la hacían parecer mucho más delgada de lo que realmente es. “Lensa realmente está trabajando horas extras para convertirme en una persona delgada”, escribió en el pie de foto.

Los artistas digitales dicen que la aplicación se apropia de su trabajo

La tecnología de Lensa se basa en un modelo de aprendizaje profundo llamado Stable Diffusion, según su política de privacidad. Stable Diffusion utiliza una red masiva de arte digital extraído de Internet, de una base de datos llamada LAION-5B, para entrenar su inteligencia artificial. Actualmente, los artistas no pueden aceptar o rechazar que su arte se incluya en el conjunto de datos y, por lo tanto, se use para entrenar el algoritmo.

Ha despertado la preocupación de algunos artistas, que dicen que Stable Diffusion depende de su trabajo artístico para hacer sus propias imágenes, pero no reciben crédito ni compensación por esto. A principios de este año, CNN informó sobre varios artistas que estaban molestos cuando descubrieron que su trabajo había sido utilizado sin su consentimiento o pago para entrenar la red neuronal para Stable Diffusion.

Varios de los artistas expresaron su preocupación de que las aplicaciones también pudieran amenazar su sustento. Los artistas digitales no pueden competir con los precios bajos y la inteligencia artificial de respuesta rápida permite un retrato digital. 

El propietario de Lensa, Prisma, ha tratado de disipar las preocupaciones sobre su tecnología que elimina el trabajo de los artistas digitales: “Si bien tanto los humanos como la IA aprenden sobre estilos artísticos de formas casi similares, existen algunas diferencias fundamentales: la IA es capaz de analizar y aprender rápidamente de grandes conjuntos de datos, pero no tiene el mismo nivel de atención y aprecio por el arte como ser humano”, dijo la compañía el 6 de diciembre.