Falla tecnológica
¡Hola, ¿INADI?! La inteligencia artificial de Facebook confundió a hombres negros con simios
La compañía se disculpó por la falla, que calificó como “inaceptable”.
Un sistema de inteligencia artificial (IA) que utiliza Facebook para catalogar contenido en la red social confundió a hombres negros con simios. El error ocurrió con un video publicado por Daily Mail; luego de la reproducción aparecía una notificación que preguntaba al usuario si le gustaría seguir viendo material “sobre primates”.
La compañía con sede central en Palo Alto, California, se disculpó por el error y lo calificó como “inaceptable”. Además desactivó la función, un método automático que examina el contenido y en base a esa información debe arrojar recomendaciones en la misma categoría. Desde Facebook indicaron que trabajan para encontrar la causa precisa que provocó esta lectura inadecuada.
“Aunque hemos realizado mejoras en nuestra inteligencia artificial, sabemos que no es perfecta y que tenemos más avances que hacer. Pedimos disculpas a todos los que hayan visto estas recomendaciones ofensivas”, dijo Dani Lever, vocera de Facebook.
En el pasado hemos visto innumerables casos en los que la IA ha reflejado sesgos raciales y de género. Muchas de esas situaciones se registran en el uso de sistemas de reconocimiento facial en la vía pública: tal como contamos acá, esa tecnología comete más errores al intentar identificar a personas negras, en muchas ocasiones provocando arrestos injustos.
