Inteligencia artificial, los peligros del reconocimiento facial

Por Eduardo Sánchez

Las tecnologías informáticas (digitales) han impregnado de tal manera nuestra vida cotidiana que decirlo se ha convertido en una obviedad. Es casi imposible encontrar hoy una actividad humana, personal o profesional, donde la informática no juegue un rol central, directa o indirectamente. Y dentro de esas tecnologías, la mal llamada inteligencia artificial (conocida por su acrónimo IA, o AI en inglés) tiene una importancia creciente, con efectos no solo económicos sino también sociales en un sentido amplio (seguridad, privacidad, ética, libertades, etc.).

La palabra inteligencia tiene múltiples definiciones e interpretaciones: le ocurre casi lo mismo que a la pornografía, de quien alguien dijo que era imposible definir, pero se la reconoce tan pronto como se la ve. De allí los riesgos de llamar inteligencia artificial a un conjunto de técnicas donde, una vez superado el barniz superficial, se reconocen pocas cosas inteligentes. En efecto, en la gran mayoría de los casos, dicha inteligencia se limita a un reconocimiento automático de patrones, de modelos, luego de un entrenamiento que se efectúa comparando un gran número de elementos, de manera supervisada o no. Por ejemplo, se le presentan miles (o millones) de fotos de gatos a un programa informático hasta que él logre identificar las características del patrón gato (dos orejas, bigotes, etc.) y luego pueda identificarlos entre fotos de otros animales. Este proceso de aprendizaje, implícito en casi todo algoritmo de IA, emplea en la mayor parte de los casos algoritmos donde se ensaya (groseramente) simular el comportamiento de las redes neuronales, razón por la cual un nombre más apropiado para estas tecnologías es el de aprendizaje automático con redes neuronales artificiales (machine learning en inglés).

En realidad, los progresos recientes en aprendizaje automático (deep learning, aprendizaje profundo) se deben más a progresos tecnológicos que teóricos (la teoría es esencialmente la misma desde hace varias décadas), especialmente:

·      Aumento de la capacidad de cálculo de los microprocesadores que equipan los computadores actuales (incluyendo los smartphones, verdaderos computadores, más poderosos que cualquier computador de oficina de hace diez años).

·      Aumento de la capacidad de almacenamiento de las memorias informáticas: hoy es posible almacenar una base de datos gigantesca en un pequeño dispositivo, con un tiempo de acceso mínimo.

·      Aumento de las bases de datos, de todo tipo, puestas a disposición voluntaria o involuntariamente a cantidad de empresas tecnológicas: las redes sociales, para citar un solo ejemplo, disponen de informaciones detalladas de sus millones de utilizadores (fotos, desplazamientos, gustos, etc).

Una aplicación del aprendizaje automático que merece un capítulo aparte por los riesgos que hace correr a las libertades individuales es el reconocimiento facial. Popularizado en 2017 con la utilización por el iPhone X para remplazar la contraseña o la huella digital, se ha vuelto una herramienta indispensable para organizar las numerosas fotos que guardamos en las nubes de Apple, Google o Facebook, por ejemplo. Pero en paralelo a esta utilización lúdica y, en apariencia, inofensiva, el reconocimiento facial se ha convertido en la herramienta de vigilancia más poderosa al servicio de gobiernos, servicios de policía o simples privados. En USA se utilizó ya en 2001, para controlar el público que asistía a la final del fútbol americano de ese año, el famoso Super Bowl. Y el gobierno chino dispone de cámaras en numerosos sitios públicos, controlando el comportamiento de los ciudadanos y permitiendo así otorgar o quitar puntos a cada persona en su Libreta de Crédito Social que conduce a listas negras que pueden impedir el acceso a servicios como el tren rápido, prestamos bancarios, hoteles, etc.

frase-destacada

Aunque en sus comienzos los resultados del reconocimiento no eran excelentes (mi nieto le jugaba bromas a su tía accediendo a su iPhone que confundía sus caras), el entrenamiento que los algoritmos de aprendizaje automático realizan con bases de datos de caras cada vez más grandes han aumentado considerablemente la precisión. Sin embargo, la calidad de ese entrenamiento puede introducir sesgos y la opacidad de los algoritmos impide todo control de la calidad de los resultados: se ha constatado, por ejemplo, que la precisión es menor con ciertos grupos étnicos, menos presentes en las bases de datos utilizadas en el aprendizaje.

frase-destacada

El gobierno chino dispone de cámaras en numerosos sitios públicos, controlando el comportamiento de los ciudadanos y permitiendo así otorgar o quitar puntos a cada persona en su Libreta de Crédito Social que conduce a listas negras que pueden impedir el acceso a servicios como el tren rápido, préstamos bancarios, hoteles, etc.

 

Numerosas quejas de grupos de defensa de las libertades individuales han llevado a ciertos estados a limitar el uso del reconocimiento facial por los servicios de policía y a grandes compañías tecnológicas como Amazon, IBM y Microsoft a declarar una moratoria en la venta de sus aplicaciones de reconocimiento. Sin embargo, estas precauciones éticas son de corta duración y, en ausencia de controles legales claros, siempre habrá compañías menos escrupulosas. Por ejemplo, Clearview AI, compañía estadounidense que cuenta entre sus fundadores a activistas de extrema derecha, ha anunciado su intención de completar una base de datos con 100.000 millones de caras de aquí al final del año. Fotos obtenidas sin permisos de sus propietarios, aspirándolas de diferentes fuentes de internet (Facebook, Instagram, Snapchat, TikTok, etc). Y ha anunciado un acuerdo de cooperación con el gobierno ucranio para, de un lado, ayudar a identificar las víctimas de la guerra y, de otro lado, identificar los rusos presentes en su territorio. Esto último gracias a las fotos que Clearview anuncia haber obtenido de los 70 millones de usuarios de VKontakte, la más grande red social rusa.