Facebook investiga las causas de que su IA identificara a hombres negros como primates

Facebook ha pedido disculpas por un error en el mecanismo de Inteligencia Artificial (IA) que recomienda vídeos en su red social después de que esta identificase a varios hombres de raza negra como primates. La empresa estadounidense ha desactivado dicho sistema hasta esclarecer las causas del fallo.

El error de Facebook apareció para algunos usuarios de la red social después de ver un vídeo del diario británico 'Daily Mail' que mostraba a varios policías enfrentándose a ciudadanos de raza negra. La IA de recomendación de vídeos sugería "seguir viendo vídeos de primates", tal y como ha informado el diario 'The New York Times'.

"Fue claramente un error inaceptable", reconoció un portavoz de Facebook en declaraciones a 'The Verge', medio desde el que ha pedido disculpas a los usuarios que hayan podido ver estas "recomendaciones ofensivas". Asimismo, Facebook ha deshabilitado por completo su función de recomendaciones de vídeos a través de la IA —que analiza automáticamente el contenido de los vídeos para sugerir otros relacionados— hasta investigar la causa del error y prevenir que ocurra de nuevo.

"Si bien hemos realizado mejoras en nuestra IA, sabemos que no es perfecta y tenemos más avances que hacer", ha admitido la compañía estadounidense.

Un error demasiado frecuente

No es la primera vez que la IA muestra un sesgo racista. En 2015, Google tuvo que disculparse después de que el algoritmo de Google Photos etiquetara con la palabra "gorilas" las fotos de dos jóvenes afroamericanos. "Estaba arriba en mi lista de errores que no quería que sucedieran jamás", lamentó Yonatan Zunger, por entonces ingeniero de la compañía. Zunger lo atribuyó a las dificultades del sistema de reconocimiento facial en cuanto a las imágenes de personas con piel oscura.

TE PUEDE INTERESAR

Por qué un coche autónomo preferirá atropellar antes a un pobre que a un rico

J. Corbacho

El llamado racismo tecnológico puede hacer peligrar, incluso, la vida de las personas. Científicos de la Universidad Tecnológica de Georgia, en Estados Unidos, demostraron que los sistemas de reconocimiento visual de peatones con los que están equipados los coches autónomos reconocen a las personas con tonos de piel más oscuros como objetos en lugar de como humanos en un 10% más de ocasiones que en el caso de quienes tienen la piel clara.