El mes pasado, una polémica empresa de reconocimiento facial, Clearview AI, anunció que había entregado su tecnología al gobierno ucraniano.
BBC NEWS MUNDO
La controvertida tecnología que usa Ucrania para identificar a los muertos y enemigos en la guerra
Funciona como Google. Pero en lugar de poner una serie de cadena de palabras o texto, el usuario pone una foto de una cara.
El uso de Clearview por parte del gobierno ucraniano ha generado cuestionamientos sobre la incorporación de esta poderosa herramienta en una guerra. GETTY IMAGES
La BBC tuvo acceso a evidencia de cómo se está utilizando en más de mil casos para identificar a personas vivas o muertas.
Esta historia contiene descripciones gráficas que pueden perturbar a algunos lectores.
Un hombre yace inmóvil en el suelo, con la cabeza inclinada hacia abajo. Su cuerpo está desnudo, excepto por un par de calzoncillos Calvin Klein. Sus ojos están rodeados de lo que parecen ser moretones.
El cuerpo fue encontrado en Járkiv, al este de Ucrania. La BBC vio fotografías de los restos pero desconoce las circunstancias de la muerte.
Hay evidencia clara de traumatismo craneoencefálico. El hombre también tenía un tatuaje en el hombro izquierdo.
Las autoridades ucranianas no sabían quién era la víctima, por lo que decidieron recurrir a un método de vanguardia: el reconocimiento facial mediante inteligencia artificial.
El sistema de reconocimiento facial de la compañía Clearview AI es el más famoso y controvertido del mundo.
La compañía ha recopilado miles de millones de fotos de redes sociales, de sitios como Facebook y Twitter, para crear una enorme base de datos de lo que su presidente y fundador, Hoan Ton-That, llama “un motor de búsqueda de rostros”.
“Funciona como Google. Pero en lugar de poner una serie de cadena de palabras o texto, el usuario pone una foto de una cara”, explica Ton-That.
La compañía ha enfrentado varios desafíos legales. Facebook, YouTube, Google y Twitter han enviado notificaciones a Clearview solicitándole que deje de usar imágenes de sus sitios. La Oficina del Comisionado de Información de Reino Unido incluso multó a la empresa por no informar a los usuarios sobre la recopilación de sus fotos personales.
En Ucrania
El uso de Clearview por parte del gobierno ucraniano ha generado cuestionamientos sobre las implicaciones de incorporar esta poderosa herramienta en una guerra.
Clearview es usada ampliamente, aunque de manera controvertida, por parte de las fuerzas del orden en Estados Unidos. Ton-That dice que 3.200 agencias gubernamentales han comprado o probado la tecnología.
Tras la invasión rusa de Ucrania, el fundador de la compañía vio otra aplicación para su controvertida tecnología.
“Vimos imágenes de prisioneros de guerra, de gente que huía, y pensamos que nuestra tecnología podría ser útil para identificación de personas y verificación”, señala.
Ton-That puso su motor de búsqueda a disposición del gobierno ucraniano, y la oferta fue aceptada.
De vuelta en Járkiv, las autoridades tomaron una fotografía del rostro del muerto: con la cabeza erguida y los ojos hundidos dirigidos hacia la cámara.
Luego contrastaron la imagen con la base de datos de Clearview. La búsqueda arrojó varias fotos de alguien que se parecía mucho al muerto.
Una foto había sido tomada en lo que parecía ser un día caluroso. El hombre estaba sin camisa y tenía un tatuaje en el hombro izquierdo. La búsqueda dio resultado y las autoridades ya tenían un nombre.
Antecedentes
Usar reconocimiento facial para identificar a los muertos no es nuevo y Clearview no es la única plataforma que se usa con este fin en Ucrania.
“Hemos estado usando este material durante años”, dice Aric Toler, director de investigación de Bellingcat, una organización que se especializa en periodismo de investigación.
En 2019, Bellingcat usó tecnología de reconocimiento facial para ayudar a identificar a un hombre ruso que había filmado la tortura y el asesinato de un prisionero en Siria.
La guerra de Ucrania no es la primera en que se utiliza la tecnología de reconocimiento facial.
Pero su uso allí es más amplio que en cualquier conflicto anterior. Toler dijo a la BBC que usa la plataforma de reconocimiento facial FindClone en Rusia y asegura que le ha sido particularmente útil para identificar soldados rusos muertos.
Al igual que Clearview, FindClone busca coincidencias con imágenes de internet disponibles públicamente, incluyendo las páginas de redes sociales rusas.
Es posible hallar incluso a personas que no tienen cuentas en esos sitios.
“Es posible que no tengan un perfil en las redes sociales, pero sus esposas o novias sí. O tal vez vivían en un pueblo pequeño con una gran base militar y tenían muchos amigos en su unidad que tenían cuentas”, explica Toler.
Este último punto es fundamental para comprender el poder de la tecnología de reconocimiento facial.
Significa que incluso si una persona nunca ha tenido un perfil en redes sociales y piensa que ha borrado su imagen de internet, todavía puede ser encontrada. Al aparecer en una foto subida por un amigo o simplemente al estar en el fondo de una imagen aleatoria en internet, ya está en la base de datos.
Incluso el personal militar o de seguridad, que apenas tiene presencia en internet, puede ser rastreado.
Una cuestión de precisión
Los críticos de la tecnología de reconocimiento facial señalan que no siempre es correcta, y que en tiempos de guerra, los errores pueden tener consecuencias potencialmente desastrosas.
Clearview no solo se está utilizando para identificar cadáveres en Ucrania. La compañía también confirmó que el gobierno ucraniano la estaba utilizando en los puestos de control para ayudar a identificar a sospechosos enemigos.
Clearview le mostró a la BBC un correo electrónico de una agencia ucraniana confirmando que el sistema se está utilizando para identificar a los vivos.
“Este sistema nos dio la oportunidad de confirmar rápidamente la exactitud de datos sobre sospechosos detenidos”, señala el correo electrónico de un funcionario ucraniano que no quiso ser identificado.
“Durante el uso de Clearview se realizaron más de 1000 consultas de búsqueda para realizar la verificación e identificación apropiadas”, se lee en el correo electrónico.
Esto preocupa a algunos analistas.
Conor Healy es un experto en reconocimiento facial en IPVM, una organización que monitorea la tecnología de seguridad.
“Es importante que las fuerzas ucranianas reconozcan que esta no es una forma 100% precisa de determinar si alguien es su amigo o su enemigo“, dice Healy.
“No debería ser una tecnología de vida o muerte en la que apruebas o fallas, donde podrías ser encarcelado o, Dios no lo permita, incluso asesinado. No es así como debería usarse esto en absoluto”.
Otros analistas han formulado advertencias aún más fuertes. Albert Fox Cahn, del grupo de vigilancia Surveillance Technology Oversight Project (Proyecto de Supervisión de Tecnología de Vigilancia) habla de “una catástrofe de derechos humanos en ciernes”.
“Cuando se cometen errores con reconocimiento facial en tiempos de paz, las personas son arrestadas por error. Cuando hay equivocaciones con esta tecnología en una zona de guerra, matan a personas inocentes“, dijo Fox Cahn a la revista Forbes.
La BBC contactó al gobierno ucraniano para hablar sobre el uso de Clearview, pero no recibió respuesta.
Ton-That ha defendido la precisión de la tecnología de su empresa, diciendo que tiene una precisión probada de más del 99%.
Sin embargo, mucho depende de la calidad de la imagen, de la posición de la cabeza o de si la cara está cubierta, por ejemplo, con una máscarilla.
También está el tema de la privacidad, que ha sido problemático para Clearview en Estados Unidos y en Europa. La compañía extrae imágenes disponibles públicamente de empresas como Facebook e Instagram para construir su base de datos.
Pero no ha preguntado a las empresas de redes sociales, ni a nadie, si podía recolectar estas imágenes. Si estás leyendo este artículo es casi seguro que te encuentras en la base de datos, aunque probablemente no hayas dado permiso a Clearview para usar tu imagen.
El año pasado, la Oficina del Comisionado de Información de Reino Unido multó a Clearview por no informar a las personas que estaba recopilando sus fotos personales en las plataformas de redes sociales.
Ton-That acepta que aún se debate la legalidad de la tecnología de reconocimiento facial, pero cree que Clearview opera dentro de la ley y señala que la tecnología ha sido “malinterpretada”.
Sin embargo, la tecnología de reconocimiento facial claramente tiene aplicaciones distópicas. En noviembre del año pasado, la BBC informó que China planeaba usar la tecnología de reconocimiento facial para actuar contra periodistas.
Ton-That dice que Clearview no permitiría este tipo de búsquedas. También asegura que su empresa no trabaja con gobiernos autoritarios y no lo haría con Rusia.
Sin embargo, la tecnología de Clearview puede aplicarse en un contexto militar.
El año pasado, por ejemplo, la compañía firmó un contrato con el Pentágono para explorar la posibilidad de incorporar su tecnología a gafas de realidad aumentada.
Y Clearview es solo una de varias empresas con contratos militares para el desarrollo de inteligencia artificial de reconocimiento facial.
Los defensores de la privacidad expresan además otra preocupación. La tecnología de reconocimiento facial puede ser útil para las autoridades ucranianas en tiempos de guerra. ¿Pero simplemente devolverán la tecnología a Clearview en tiempos de paz?
“Hay una gran cantidad de ejemplos de tecnologías que se introducen en tiempos de guerra y que persisten en tiempos de paz“, afirma Healy.
“Espero que no sea ese el enfoque que adopten”.
James Clayton es reportero de tecnología de la BBC en Norteamérica y está basado en San Francisco. Síguelo en Twitter @jamesclayton5.
Ahora puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.
