La “solución” de Google a su algoritmo racista es que Fotos pretenda que los gorilas no existen

Quizás algunos no lo recuerden, pero cuando Google Fotos estaba recién lanzada y recibiendo halagos y flores por todas sus bondades, también desató una gran polémica porque el algoritmo que usa para etiquetar las fotos confundió a una pareja de personas negras con gorilas.

El sistema de reconocimiento facial de Google Fotos fue entonces calificado de racista y se desató un gran debate. La empresa se disculpó profusamente, dijo que trabajaban en solucionarlo y mientras tanto eliminarían la etiqueta “gorila” de la aplicación. Eso fue en 2015, ya estamos en 2018 y la “solución” por parte de Google ha sido impedir que su app identifique gorilas bajo cualquier escenario.

Según una historia publicada por Wired, Google Fotos simplemente no muestra resultados cuando se hacen búsquedas para los términos “gorila”, “chimpancé”, y “mono”. Incluso probaron subiendo fotos de los animales de varias organizaciones sin fines de lucro, pero Google Fotos simplemente es incapaz de encontrarlas.

No solo eso, sino que también encontraron que Google ha restringido también las funciones de reconocimiento de su inteligencia artificial en algunas categorías sobre raza.

En Wired subieron más de 10.000 fotos usadas para investigación de reconocimiento facial, y al buscar “hombre negro” o “mujer negra”, los resultados solo mostraron fotos en blanco y negro de personas, pero no las organiza por raza, solo por género.

Google no lo niega

Gorila Google Fotos 2018 01 12 17 58 48

Un representante de Google confirmó a Wired que las categorías “gorilla”, “chimp”, “chimpanzee” y “monkey” continuan bloqueadas en Google Fotos desde 2015 cuando se reportó el problema inicialmente. “La tecnología de identificación de imágenes aún es nueva y desafortunadamente no está ni cerca de ser perfecta”, dijo la empresa.

Si bien es cierto que se trata de una tecnología nueva que sigue representando retos, sigue sin quedar claro si problemas como estos permanecen presentes porque Google no sabe cómo solucionarlos o no le interesa.

También es un recordatorio, como mencionan en The Verge, de que otra de las dificultades que enfrentan las inteligencias artificiales a la hora de ser entrenadas, probablemente tengan también que ver con la diversidad del grupo de personas que las programa, y luego las prueba.

En Magnet | Por qué al algoritmo de Google es racista (pista: porque nosotros lo hemos querido)
En Xataka | ¿Pueden ser racistas los algoritmos?

Temas

Powered by WPeMatico

eBay