El “ojo de Dios” está en China

Ahora 140 millones de cámaras de vigilancia con inteligencia artificial en China son parte de una revolución tecnológica en materia de seguridad ciudadana que servirá para mantener controlada a una población de 1.400 millones de habitantes.

Imagina que caminas por la calle comercial de Wangfujing, situada en el distrito Dongcheng de Beijing y que cientos de cámaras o lentes te reconocen facialmente  con la ayuda de un software con inteligencia artificial. Y no solo eso, sino que además te vigilan y rastrean en cada paso que das, además, se te asigna una puntuación según tu comportamiento.

Al igual que la serie de Nextflix denominada ‘Black Mirror’, nos planteaba una sociedad basada en calificaciones personales que resultaban de la interacción con otras personas. La idea era que todos tratarán de actuar «bien» para tener una calificación alta, ya que el tener un puntaje por debajo del promedio provocaba que fueran catalogados como ciudadanos de segunda clase, una especie de rechazados sociales a quienes se les sanciona de muchas formas.

El gobierno chino ha creado un proyecto que se basa en un sistema que conectará todas las calificaciones crediticias, financieras, sociales, políticas y legales de cada uno de sus ciudadanos. Con esto se crearía un gran puntaje de confiabilidad social, el cual ayudaría a delimitar, e informar, el nivel de confianza que posee una persona.

Crédito social

A a partir del 1 de mayo entraron en vigor las primeras reglas del «Crédito Social» en China, donde la primera restricción estará dirigida a aquellas «personas no confiables», quienes tendrán prohibido adquirir boletos de tren y de avión, sin importar que tengan la necesidad de salir del país por alguna emergencia o cuestiones laborales.

Esta restricción duraría al menos un año y después de este tiempo habría una nueva revisión para determinar si se levanta la prohibición o se amplía por otro año más. Las personas que entrarían directamente en esta prohibición serían aquellas que han cometido actos delictivos en el último año, quienes hayan difundido información falsa sobre terrorismo, hayan causado problemas en algún vuelo, así como aquellos que usaron boletos vencidos o fueron sorprendidos fumando en el interior de algún tren.

Asimismo, los ciudadanos que hayan cometido infracciones financieras, como empleadores que no hayan pagado el seguro social, personas que no han pagado sus multas y hasta aquellos que hayan emitido disculpas que se consideren «poco sinceras» también se harán acreedores a esta sanción que les prohíbe viajar por tren o avión.

Aún sigue sin estar claro cómo será el puntaje para el resto de los ciudadanos chinos, ya que sólo mencionan casos concretos como los que acabamos de ver y dejan de lado infracciones menores, como dejar la bicicleta en un paso peatonal. En este caso, no se sabe cómo se podrá consultar el puntaje de cada persona o la «lista negra».

China estima que la versión completa de su «Crédito Social» esté disponible en 2020 ya que detrás de la implementación de los algoritmos digitales de control y medida, se encuentran grandes corporaciones tecnológicas chinas como Alibaba (el Amazon chino), Tencent o Didi (el Uber chino). Los datos de cada individuo son recogidos de múltiples fuentes (administraciones públicas, empresas privadas, redes sociales, cámaras en las calles…) con el fin de parametrizar y medir el “correcto comportamiento” de los ciudadanos.

¿Qué ocurre con aquéllos que descienden a posiciones bajas? Son castigados de forma progresiva para inducir un cambio en su comportamiento. Se les puede prohibir, por ejemplo, tomar un avión (hasta mayo de 2018, 11 millones de pasajeros vieron bloqueados sus accesos a sus vuelos, al comprobar sus bajos rankings sociales en la puerta de embarque). Se impide el acceso de sus hijos a determinadas escuelas (las mejores). Se les reduce la velocidad de conexión a internet. Se les deniegan créditos bancarios, trámites burocráticos, o acceso a hoteles. Y, por supuesto, la puntuación en el sistema de crédito social condiciona las posibilidades de acceder a un buen trabajo.

"City street lit up at night, Shanghai, China"

Cómo definen el perfil de la persona

El sistema observa indicadores tales como por dónde navegan las personas cuando se conectan a internet, quiénes son sus amigos y qué ránking tienen (de quién se rodean), qué dicen en sus mensajes privados en las redes sociales, cuántas multas de tráfico han acumulado, qué solvencia tienen en sus pagos, qué expediente académico pueden acreditar, cuáles son sus compras, qué hacen en su tiempo libre (pasar demasiado tiempo jugando a videojuegos, por ejemplo, está penalizado), qué periódicos leen, cuántas veces se han casado o por dónde se desplazan. Flujos masivos de datos provenientes de los registros públicos, de sus compras on-line en empresas como Alibaba, las posiciones de sus móviles, o sus conversaciones en WeChat (el WhatsApp chino) son analizados automáticamente por robots para configurar su identidad digital y comparar su perfil de comportamiento con aquél deseado por el gobierno. Con ello, se obtiene su puntuación social y se le ubica en el ránking.

El gobierno chino exige a los ciudadanos el tener una aplicación de vigilancia en sus teléfonos, así como ser espiados durante las 24 horas del día a través de más de 20 millones de cámaras equipadas con inteligencia artificial.

Si se rompe la confianza habrá consecuencias

Contrario a lo que muchos de nosotros podríamos pensar, la mayoría de los ciudadanos chinos están de acuerdo con esta nueva medida, ya que a día de hoy no existe un sistema que lleve el registro crediticio de cada persona en el país, ocasionado que, por ejemplo, muchos no posean siquiera una tarjeta de crédito.

Se dice que actualmente ya hay ocho compañías privadas que han creado bases de datos piloto para empezar a recopilar información de los ciudadanos. Sesame Credit es una de estas compañías, pertenece al gigante Alibaba y ha empezado a implementar este tipo de sistemas de puntaje para créditos sociales.

Sesame Credit determina la puntuación de cada persona de acuerdo a una serie de factores, las cuales pasan por un algoritmo que determina el tipo de persona que está solicitando el crédito. Entre la información que se recolecta están las multas de tránsito, el pago puntual de impuestos y el tipo de compras que hace habitualmente, ya sea en línea o de forma física. Con toda esta información, el sistema podrá decir si se trata de un ciudadano inactivo en caso de que sólo compre videojuegos, o si se trata de un padre de familia responsable si en sus compras sobresalen los pañales y la comida para bebés.

Quienes obtengan un puntaje alto tendrán beneficios como el poder alquilar bicicletas o coches sin tener que dejar un depósito, o acceder a colas preferenciales en tiendas, bancos y hospitales. Incluso Sesame Credit ofrece la posibilidad de cada ciudadano pueda mostrar su ranking en redes sociales y así demostrar que se trata de alguien de confianza.

En resumen este artículo tiene un objetivo, y este es señalar lo que es posible realizar con la tecnología, y por otro lado, estar más cerca de una sociedad determinada por categorías o “rankings” digitales de comportamiento. En los casos señalados los mejores puntuados evitarán todo contacto con los peores, mientras que éstos intentarán desesperadamente relacionarse con alguien “mejor”. Una persona con un bajo ranking social será sistemáticamente evitada por los que la rodean. Incluso empresas de contactos matrimoniales comparan los ránkings sociales de sus usuarios para impedir que se formen parejas asimétricas. Pero, ¿qué es el comportamiento “deseable” que fija el óptimo de los patrones de medida? ¿Quién diseña el óptimo, y con qué criterios? ¿Visitar webs de otros países, o leer ensayos políticos de un determinado tipo es “antisocial”? ¿El pensamiento crítico no es deseable? En este sentido cabe preguntarse ¿cuál es el destino final de esa sociedad?

QUIERES COMENTAR EL ARTICULO?

1 comentario de “El “ojo de Dios” está en China”

Comments are closed.