La polémica racista de Google Photos

Dejar que los robots hagan el trabajo sucio de los humanos a veces acarrea consecuencias. Y aunque Google tiene en su plantilla a los mejores ingenieros del mundo y cuenta con muchos años de experiencia desarrollando potentes algoritmos, ni unos ni otros son perfectos.

La empresa de Mountain View la ha liado parda estos días con su aplicación Google Photos. Hasta tal punto que la empresa fundada por Larry Page y Sergey Brin ha sido acusada de racista.

El software había etiquetado las imágenes dos personas de raza negra (el desarrollador web Jacky Alciné y su novia) como ‘gorilas’. No se trataba de una broma o algo hecho de manera intencional, sino de un grave error de la característica de etiquetado automático de la aplicación. Fue Alcine quien descubrió hace unos días esto y le pidió explicaciones a Google a través de un tweet.

Google Photos, y’all fucked up. My friend’s not a gorilla. pic.twitter.com/SMkMCsNVX4

— diri noir avec banan (@jackyalcine) June 29, 2015

Tras enterarse del incidente, Google fue rauda y veloz para pedir disculpas.  Primero fue un ingeniero de la casa (Yonatan Zunger) y luego un responsable de comunicación. Zunger reconoció que están experimentando algunos fallos con el reconocimiento facial en Google Photos con ciertas razas y tonos fáciles y la luz. Incluso contó que en algunos casos se estaban etiquetando a personas de todas las razas como si fueran perros.

“Estamos consternados y realmente siendo que esto haya sucedido”, señaló un portavoz de la firma. “Claramente, todavía tenemos un montón de trabajo que hacer con el autoetiquetado automático de la imagen y estamos viendo cómo podemos evitar que este tipo de errores se cometan en el futuro”. Después de eso la empresa de la gran G ha decidido suprimir temporalmente la etiqueta de gorillas.

A Google no es la primera ni la única a la que le ha courrido algo parecido.  En mayo su rival Yahoo! renovó su red social de imágenes y app fotográfica Flickr, incorporando también una etiquetado automático en las fotos. Entonces el algoritmo identificó igualmente a un hombre negro como un simio.

Las máquinas se vuelven más inteligentes y cada vez más delegamos en ellas más tareas de los seres humanos. Sin embargo, pese a que hay avances en campos como la inteligencia artificial o la computación cognitiva, los algoritmos siguen siendo incapaces de detectar, comprender las emociones o los sentimientos o mostrar empatía.

• Acerca de
• Artículos recientes

Juanrrison Ford

Periodista multitarea, multiplataforma y responsive. Peliculero. Más explicante que replicante. Corresponsal de guerra en la App Store y Google Play. Conspira, escribe posts, prepara lasañas de carbonita y hace unicornios de origami sentado en su sillón negro mientras acaricia a su gato. Una vez hizo sonreír a un Angry Bird. @juanrrisonford

Últimas entradas de Juanrrison Ford (ver todo)

• La evolución de las apps para iOS y el ecosistema Apple - 4 noviembre, 2024
• Bella Wants Blood llega a Android para beberse tu sangre - 28 octubre, 2024
• Maid of Sker, una pesadilla sonora en la que recorres un siniestro hotel de época - 18 octubre, 2024