Autor | Jaime Ramos
Vivimos en una curiosa época de calificaciones online y "me gustas" tamizados por potentes herramientas de gestión masiva de datos e inteligencia artificial. Cuando esa recolección de datos se basa en un sistema institucional de puntuación (con premios y castigos) sobre el comportamiento ciudadano, entonces lo llamamos sistema de crédito social.
Este tipo de instrumentos han traído consigo un profundo debate ético y moral, entre los que lo consideran un arma de ingeniería social institucionalizada y basada en el reflejo condicionado; y los que lo ven como una oportunidad para impulsar la convivencia y afrontar retos complejos.
En ese sentido, China lleva desde el inicio del milenio testando las posibilidades de su sistema de crédito social. Pese a las críticas, el gigante asiático lo ha centrado más en potenciar ventajas económicas que en dar con una fórmula de represión masiva. Según el Banco Popular de China, a finales de 2020 el programa alcanzaba a 1.100 millones de habitantes y 47 millones de empresas y negocios. Estos datos permiten hacerse una buena idea de los pros y los contras que implican esta técnica para la gobernanza.
Ventajas del Sistema de Crédito Social Chino
China’s Social Credit System: #XiJinping has big plans for #China. To be decided at upcoming #19PC #PartyCongress pic.twitter.com/k49XABh4IY
— MERICS (@merics_eu) August 17, 2017
Vamos a analizar algunas de las ventajas del ejemplo chino. El mensaje oficial es que, su objetivo, no es otro que crear un clima de negocio predecible, justo y transparente. Entre los supuestos beneficios encontramos:
- Reducción de la criminalidad y mejora de la seguridad.
- Desarrollo económico y estabilidad financiera.
- Protección de los consumidores.
- Civismo y responsabilidad ciudadana.
- Mayor eficacia administrativa y personalización de política.
- Reducción de la corrupción.
Este último punto ha sido una de las claves de la buena aceptación que tuvo entre los participantes. Hasta un 80% de los participantes en estos programas se mostraban a favor.
Desventajas del Sistema de Crédito Social Chino
Algunas de las distópicas amenazas que podría presentar el caso chino son:
- Menor libertad de expresión.
- Invasión de la privacidad y recopilación de información íntima.
- Vigilancia permanente.
- Injusticias y discriminaciones basadas en la opacidad de criterios y la arbitrariedad.
- Restricción de la movilidad.
Cómo es el Sistema de Crédito Social chino
El ejemplo de China es complejo. Mientras que el mensaje oficial transmite confianza señalando que el sistema no acarrea fórmulas de castigo y se compromete a desarrollar una herramienta ética que no incluya, por ejemplo, un uso pernicioso de la IA, los más críticos llevan años instando a ponerle freno listando algunas consecuencias. En 2018, por ejemplo, se prohibió la venta de 23 millones de billetes de avión y tren a infractores. A 128 personas se les impidió salir del país por no pagar impuestos.
Estos ejemplos contribuyeron a que las autoridades chinas ofrecieran clarificaciones y añadieran nuevos criterios sobre el sistema, en especial, especificando motivos y categorías para castigar y, de momento, limitando su aplicación al ámbito fiscal y centrándose más en las personas jurídicas.
PayPal y su intento de crédito social como experimento más allá de China
El caso chino no es único y tiene implicaciones sobre los usos tecnológicos actuales, en especial, de los de recolección y gestión de la intimidad. Recientemente asistimos al debate sobre la multa de 2.500 dólares que iba a imponer PayPal a aquellos usuarios que contribuyeran a la desinformación. Una iniciativa que terminó por recovarse.
Lo que parece claro es que estamos ante una controversia con una evidente laguna jurídica debido a las variables tecnológicas. Las sociedades llevan centurias perfeccionando códigos que regulan las responsabilidades penales y civiles; o las de las administraciones públicas frente a los ciudadanos. No en vano, la locución latina Quis custodiet ipsos custodes? acumula casi 2.000 años de historia. La clave parece dirigirse a establecer cuándo existen violaciones y restricciones de los derechos y libertades, aun siendo voluntarias o tecnológicamente punteras.
Imágenes | Freepik/freepik
