Por Jerónimo Guerrero Iraola
Hoy vamos a hablar de un tema actual, inminente, complejo. El reconocimiento facial. ¿Qué es el reconocimiento facial? Un desarrollo tecnológico basado en inteligencia artificial (IA) que permite identificar rostros.
¿Cómo lo hace? Las computadoras, los robots, los algoritmos, no ven lo mismo que nosotros. Decodifican o descomponen la imagen y luego la plasman en un modelo matemático. De esta forma, al procesar una cara, miden valores. Distancia relativa entre ojos; entre los ojos y la boca; tamaño de la boca, de la nariz. Todo eso se traduce en datos. Esos datos, son almacenados y cotejados con diversas bases.
Además, como es un desarrollo de inteligencia artificial, muchas veces, las máquinas son entrenadas y/o van aprendiendo. En Google fotos, muchas veces, la aplicación nos pregunta si las personas que aparecen en las imágenes son la misma. Otro ejemplo es el de mi teléfono. Aprendió que, a veces, uso lentes de contacto, y sumó esa cuestión al reconocimiento facial con el que lo desbloqueo. Al principio pifiaba. Ahora no. Lo que todavía no aprendió es que, desde hace 8 meses, uso tapabocas.
Teléfonos, redes sociales, aplicaciones, se basan cada vez más en esta tecnología. El problema empieza a darse en relación al con qué comparan, y para qué comparan. En 1984, Orwell dio cuenta de una sociedad hipercontrolada, sin lugar para la emergencia de subjetividades. En 2020, nos encontramos en la antesala de consentir la edificación de sofisticadas formas de autoritarismo digital.
Los algoritmos con los que trabajamos la IA, son codificados por personas. Éstas tienen un background. Un bagaje. Sus prejuicios. Allí, entran en juego los llamados sesgos algorítmicos. Nuevas formas de discriminación, un flagelo tan antiguo como la humanidad, que se sigue perpetuando adaptada a las nuevas tecnologías y métodos de producción social de sentido.
De esta forma, lo que parece inocuo, no lo es. ¿Cuántas cámaras nos registraron hoy? Hacé la cuenta. Te sorprenderías. ¿Qué hacen con esas imágenes? No lo sabemos. ¿Cómo se utilizan todos esos datos? ¿Quién los procesa? ¿Con qué fin? Todo eso hay que discutir. Ahí emergen debates serios como los relativos a la privacidad, los derechos y garantías fundamentales. ¿Qué pasa si nos detienen por un falso positivo? ¿Quién se hará cargo? ¿Qué ves cuando me ves?
