Seguinos en nuestras redes

Redes Sociales

Twitter abrió su algoritmo y se confirmaron las sospechas de racismo que denunciaron los usuarios

La red social del pajarito estuvo en el ojo de la tormenta el pasado septiembre, cuando un usuario intentó descifrar el funcionamiento del algoritmo y descubrió que Twitter prefería mostrar rostros blancos, jóvenes y delgados

Los algoritmos son códigos de programación que dictan las reglas de juego en Internet.  Twitter puso a prueba el suyo al organizar un concurso en el que convocó a especialistas ajenos a la empresa para que detectaran “errores” y determinen si, tal como denunció un usuario el septiembre pasado, parte de la tecnología que da sustento a la red social tuvo sesgos racistas.

Lo que buscaban con esta iniciativa no era auto boicotearse, sino que es una práctica común entre los desarrolladores de software que, premiando hackers, buscan adelantarse a una potencial explosión de sus brechas de seguridad. Al parecer, no se imaginaron que uno de ellos detectaría códigos racistas.

Si bien se trata de procesos automatizados, no se debe perder de vista que quienes los configuran, son personas. El año pasado la red social del pajarito estuvo en boca de todos cuando un usuario descubrió que en la vista previa del motor de búsqueda, se destacaban “automáticamente” rostros de personas blancas, delgadas y jóvenes.

Para verificar este código de programación, el usuario @bascule realizó un experimento casero: publicó una imagen del congresista estadounidense Mitch McConnell, junto a otra del ex presidente Barack Obama. El resultado fue evidente, y el sesgo fue detectado incluso en dibujos animados.

“Nuestro equipo hizo pruebas antes de enviar el modelo y no encontró evidencia de prejuicio racial o de género. Pero está claro a partir de estos ejemplos que tenemos más análisis que hacer”, señaló por su parte la vocera de Twitter, Liz Kelley. “Abriremos nuestro trabajo para que otros puedan revisar y replicar”, añadió. Parag Agrawal, responsable de tecnología en la red social, comentó que este tipo de sistemas requieren mejoras constantes.

Tras el escándalo, las declaraciones de los responsables de Twitter no tardaron en aparecer: “Estoy tan irritado por esto como todos los demás”, decía en la ocasión Dantley Davis, director de diseño en la compañía. A partir del episodio, prometieron cambios urgentes y argumentaron que habían repetido hasta 200 veces los procesos antes de lanzarlos.

TE PUEDE INTERESAR