Google arregla su algoritmo “racista” borrando a los gorilas
Los sistemas de reconocimiento facial se han introducido en los métodos de etiquetado de determinados servicios digitales en los últimos años como Facebook o Google. Son prácticos, sí, de gran utilidad para el día a día y ayudan a organizar el material gráfico, pero aunque han evolucionado positivamente no son totalmente perfectos. En 2015, el algoritmo informático integrado en la aplicación Google Photos confundió a dos afroamericanos y los etiquetó en una imagen como “gorilas”. Un error que causó gran polémica y que obligó a la compañía norteamericana a pedir disculpas además de prometer que no volvería a suceder.
Después de este tiempo, la solución que ha tomado el gigante de internet para evitar que se repita de nuevo un caso similar ha sido dejar fuera de la lista de etiquetados a simios, gorilas, chimpancés, monos. Una decisión rudimentaria. Aquel episodio se descubrió de casualidad, cuando Jacky Alciné, un programador de Nueva York, comprobó que unas imágenes en las que aparecía junto con una amiga se habían guardado en una carpeta generada de manera automática bajo la etiqueta “Gorillas” (gorilas). Las acusaciones de racismo no cesaron. La empresa tuvo que recular y actualizar el servicio.
Según comprobó el medio especializado “Wired”, la respuesta de Google para que no se repita esta “confusión” fue borrar (literalmente) tanto a los gorilas como a algunos otros primates del léxico del servicio tales como babuino, gibón o tití. Una “extraña solución”, explican los expertos, que refleja las dificultades que enfrentan las compañías tecnológicas para mejorar los sistemas de reconocimiento de imágenes que comienzan a asaltar la vida de las personas. El software, además, tampoco es capaz de encontrar “mujer negra” o “hombre negro” en su nueva actualización, lo que se traduce en una máxima de andar por casa; mejor ocultar el problema que solucionarlo.
DATOS
Aprendizaje automático. La aplicación y servicio web Google acumula en la actualidad unos 500 millones de usuarios. Está concebido como un espacio para administrar y realizar copias de seguridad de las imágenes personales. Utiliza un modelo tecnológico basado en “aprendizaje automático” o “machine learning” para agrupar de manera automática las fotografías con contenido similar y ubicaciones.
Localizar recuerdos. El sistema permite además que los usuarios puedan localizar sus recuerdos personales rápidamente.
