"Claramente necesitamos hacer más análisis", dijo una portavoz de la empresa, luego de que se viralizara un sencillo ejercicio que puso en evidencia que el modelo para recortar imágenes no es infalible y presenta un serio problema de visibilización.
Un algoritmo de Twitter ha despertado una polémica en la misma red social y ha derivado en que la compañía haya pedido disculpas por esto.
Todo comenzó con un sencillo experimento en la plataforma que evidenciaba una preferencia racial por, al parecer, visibilizar los rostros de personas o incluso dibujos animados de piel blanca o clara.
Lee también: De “Watchmen” a Zendaya: La lista completa de ganadores de los Emmy 2020
Una portavoz de Twitter, llamada Liz Kelley, se refirió a esta situación y señaló “gracias por levantar esto. Testeamos las preferencias del modelo antes de lanzarlo y no encontramos evidencias de preferencia racial o de género en nuestras pruebas, pero claramente necesitamos hacer más análisis. Abriremos nuestros trabajo para que otros puedan comentarlo y replicarlo“.
thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH
— liz kelley (@lizkelley) September 20, 2020
¿Y en qué consistía el experimento? Cuando se publica un tuit con una imagen más grande que la permitida en la previsualización, la plataforma, o mejor dicho el algoritmo, la recorta para visibilizar parte de la foto o gráfica.
Entonces, usuarios armaron una foto con dos caras, la del ex presidente Barack Obama y el senador Mitch McConnell. En un ejemplo, ubican primero el rostro del otrora mandatario y en el segundo de último. En ambos casos, Twitter destaca el rostro del republicano.
Trying a horrible experiment…
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020
Algo que llamó poderosamente la atención, por lo que se hicieron más pruebas. Otros usuarios probaron con personajes de ficción de Los Simpson, Lenny y Carl. En ambos casos, es Lenny el destacado.
Otros lo hicieron con dos fotografías de perros, uno de pelaje blanco y otro negro. Nuevamente el más claro fue el visibilizado.
I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid
— – M A R K – (@MarkEMarkAU) September 20, 2020
De ahí en más, los experimentos empezaron a probar con otras personas y a jugar con otros elementos, como el color de la corbata y hasta editaron las imágenes para hacer que los políticos estadounidenses sonrieran.
perhaps the smile too? pic.twitter.com/8rO1NEEnGb
— سعد (@BySaadGhamdi) September 20, 2020
Trying a horrible experiment…
Which will the Twitter algorithm pick: Batman or Superman? pic.twitter.com/V0UQo9mLpG
— Paulo Quinteros (@DrMalo) September 21, 2020
The ultimate twitter AI bias meme crossover? pic.twitter.com/CYFWp5YrGp
— Daniel Rourke 📉 (@therourke) September 20, 2020
Experto en política estadounidense y ex subsecretario de Asuntos Hemisféricos de EE.UU., el cientista político chileno analiza las elecciones presidenciales y su impacto en la relación de EE.UU. con América Latina.
