Titulares de última hora

ImageNet Roulette: la polémica aplicación web que te lee la cara y te dice cómo eres

19 septiembre, 2019
ImageNet Roulette: la polémica aplicación web que te lee la cara y te dice cómo eres
Tecnología
0

Seguramente, en alguna ocasión alguien le haya comentado que tiene pinta de dedicarse a un determinado oficio, de ser especialmente amable o de recordarle a un famoso. Pues bien, los investigadores Trevor Paglen y Kate Crawford han ayudado a desarrollar una página web que, gracias al uso de inteligencia artificial, es capaz de describir a un usuario a través de una foto. El nombre de la herramienta es ImageNet Roulette.

El funcionamiento del sitio es bastante simple. El usuario únicamente tiene que subir una foto suya o de otra persona, y la IA de la web le mostrará una serie de etiquetas en las que se recogen lo que ve en sus rasgos. De este modo, si, por ejemplo, subimos a la plataforma una imagen en la que aparece el Presidente del Gobierno, Pedro Sánchez, esta nos va lanzando varias palabras genéricas, como «hombre de negocios», hasta pasar a «rey» o «ejecutivo top».

ImageNet Roulette ha sido desarrollado con el objetivo de poner en relieve las limitaciones de la IA a la hora de leer el rostro de una persona. De este modo, en algunas ocasiones lo único que ofrece la web acerca de la imagen del usuario es una palabra sin demasiado sentido. Por ejemplo, en esta imagen de Cristiano Ronaldo únicamente dice sobre el jugador de la Juventus que tiene cara de «lanzador de peso».

La aplicación también ha sido objeto de polémica en las redes a causa de algunas de sus etiquetas, que pueden llegar a resultar ofensivas. Algunos usuarios, incluso, afirman que el sitio ha llegado a señalar que tienen cara de «violador». En el caso de esta imagen de la popular cantante estadounidense Miley Cyrus, puede ver como la web la cataloga como «rara» o «escalofriante».

«ImageNet contiene una serie de categorías problemáticas, ofensivas y extrañas, todas extraídas de WordNet. Algunos usan terminología misógina o racista», afirman en el sitio. Y es que el objetivo que persiguen es mostrar como una funciona una IA de buena calidad cuando los datos con los que cuenta son deficientes.

Cuando un usuario carga una imagen en el sitio, la aplicación primero ejecuta un detector de rostros. Tras estos, los envía a un modelo Caffe para su clasificación. Luego, la «app» devuelve las imágenes originales con un cuadro delimitador que muestra la cara detectada y la etiqueta que el clasificador ha asignado a la imagen. La exposición de la que forma parte ImageNet Roulette este sitio web se está celebrando en estos momentos en la Fondazione Prada de la ciudad italiana de Milán. Esta tiene como tema principal mostrar cómo ha sido el desarrollo de los sistemas de reconocimiento de imagen.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *