Reconocimiento facial y lucha contra el crimen: por qué los sesgos pueden llevar a una justicia llena de prejuicios
My list

Autor | Arantxa HerranzCada vez más ciudades apuestan por los sistemas de reconocimiento facial como una medida para luchar contra el crimen. Moscú ha sido una de las últimas, pero antes que a la capital rusa estos sistemas llegaron a ciudades como Chicago o a países enteros como China. Una medida que no ha estado exenta de polémica, puesto que los defensores de las libertades civiles y la privacidad temen que su tecnología acabe convirtiéndose en un arma de vigilancia masiva y, sobre todo, discriminatoria. Europa, de hecho, sopesa prohibir el uso de estos sistemas de reconocimiento facial en espacios públicos durante cinco años hasta que se determine cómo evitar, precisamente, sus posibles abusos.El problema no es tanto que estamos todavía ante un sistema imperfecto (en China, por ejemplo, hay cierta controversia tras constatarse que las entradas a edificios con reconocimiento facial están impidiendo el paso a personas con mascarillas para evitar el coronavirus); parte de la polémica es que el reconocimiento facial tiene importantes sesgos raciales, sexuales y de edad.

Hombres blancos de mediana edad, los más reconocibles

Investigadores del Instituto Nacional de Estándares y Tecnología descubrieron que los algoritmos de identificación facial son mucho mejores con las personas descritas como de raza blanca que con las afroamericanas y asiáticas. Tanto que a los errores en la identificación de estas personas tienen de 10 a 100 veces más probabilidades de fallar que con las caras caucásicas.Entre una base de datos de fotos utilizadas por las agencias policiales en los Estados Unidos, las tasas de error más altas se produjeron en la identificación de los nativos americanos, según el estudio. Además, los algoritmos tuvieron más dificultades para identificar a las mujeres que a los hombres.Para hacer este estudio, el organismo puso a prueba casi 200 algoritmos de reconocimiento facial de casi 100 desarrolladores, utilizando cuatro colecciones de fotografías con más de 18 millones de imágenes de más de 8 millones de personas. reconocimiento facial

Los sesgos, maximizados en la inteligencia artificial

El problema de los sesgos no es nuevo. Ni único de la inteligencia artificial. Pero el gran problema es que los algoritmos pueden, mal programados, maximizar y potenciar esos sesgos que afectan a la raza, edad, condición y orientación sexual o religión de las personas.Y no afecta únicamente al reconocimiento facial: una investigación reciente también ha demostrado que un algoritmo utilizado ampliamente en los hospitales de EE.UU. para asignar atención médica a los pacientes ha discriminado sistemáticamente a las personas negras.En muchos casos, la IA puede reducir la interpretación subjetiva de los datos de los humanos, ya que los algoritmos aprenden a considerar solo las variables que mejoran su precisión predictiva, en función de los datos de entrenamiento utilizados. Al mismo tiempo, una amplia evidencia sugiere que los modelos de IA pueden incorporar prejuicios humanos y sociales y desplegarlos a escala. Por ello, tanto humanos como máquinas deben esforzarse para evitar el sesgo y, con ellos, la discriminación. El sesgo en la IA se produce sobre todo en los datos o en el modelo algorítmico, por lo que la industria busca desarrollar sistemas de IA en los que podemos confiar. Y, para ello, se hace necesario y entrenar estos sistemas con datos imparciales, desarrollando además algoritmos que puedan explicarse fácilmente para su posible análisis cuando se detecten falsos positivos.Imágenes | Fauxels, teguhjatipras

Related content
Post-pandemic cities spark safety concerns for three-quarters of Brits
Post-pandemic cities spark safety concerns for three-quarters of Brits
Home working increases cyber-security fears
Home working increases cyber-security fears
Microsoft: Smart Places and Infrastructure with IoT, AI, and Digital Twins
Microsoft: Smart Places and Infrastructure with IoT, AI, and Digital Twins
Cómo la tecnología ayuda a prevenir (o castigar) la delincuencia - Infografía
Cómo la tecnología ayuda a prevenir (o castigar) la delincuencia - Infografía
Viena estrenará semáforos inteligentes que detectarán la intención de los peatones de cruzar
Viena estrenará semáforos inteligentes que detectarán la intención de los peatones de cruzar
El futuro de las ciudades se encuentra en los datos
El futuro de las ciudades se encuentra en los datos
Usama Bilal: “Es importante que las ciudades actúen como agentes de prevención en salud”
Usama Bilal: “Es importante que las ciudades actúen como agentes de prevención en salud”
Tecnología de protección contra el fuego: sistemas domóticos en Nueva Orleans
Tecnología de protección contra el fuego: sistemas domóticos en Nueva Orleans
La administración de justicia en las ciudades inteligentes: entre la agilización y la automatización
La administración de justicia en las ciudades inteligentes: entre la agilización y la automatización
Carné cívico por puntos: ¿herramienta de opresión o incentivo para una buena ciudadanía?
Carné cívico por puntos: ¿herramienta de opresión o incentivo para una buena ciudadanía?
¿Debemos mirar a las estrellas o a las ciudades? Aproximaciones prácticas al fenómeno de la superpoblación
¿Debemos mirar a las estrellas o a las ciudades? Aproximaciones prácticas al fenómeno de la superpoblación
Estas son las ciberamenazas que ponen en riesgo la seguridad de las smart cities
Estas son las ciberamenazas que ponen en riesgo la seguridad de las smart cities
How does technology enables San Francisco to become a safe city for citizens?
How does technology enables San Francisco to become a safe city for citizens?
¿Y luego, qué? Las ciudades después de la COVID-19
¿Y luego, qué? Las ciudades después de la COVID-19
Arca: Wave control for better health
Arca: Wave control for better health
Xpernest: Handy tools to ensure a successful social distancing
Xpernest: Handy tools to ensure a successful social distancing
Microsoft: A strong commitment to a planet-size challenge
Microsoft: A strong commitment to a planet-size challenge
Masificación urbana y despoblación rural. ¿Existen soluciones?
Masificación urbana y despoblación rural. ¿Existen soluciones?
La tecnología en las smart cities: de los chips a las personas
La tecnología en las smart cities: de los chips a las personas
Las Velas de Scampia: cuando la arquitectura inclusiva se vuelve contra las personas
Las Velas de Scampia: cuando la arquitectura inclusiva se vuelve contra las personas
Cajas negras en los coches: ¿seguridad o el principio del fin de la privacidad en el vehículo?
Cajas negras en los coches: ¿seguridad o el principio del fin de la privacidad en el vehículo?
El algoritmo que da vía libre a los vehículos de emergencia
El algoritmo que da vía libre a los vehículos de emergencia
Cómo las ciudades protegen a los ancianos de la COVID-19
Cómo las ciudades protegen a los ancianos de la COVID-19
El próximo paso en la evolución urbana: llegan las ciudades hiperconectadas
El próximo paso en la evolución urbana: llegan las ciudades hiperconectadas
Así funcionarán los sistemas de emergencia en una smart city
Así funcionarán los sistemas de emergencia en una smart city
Neareo: Powering QR codes
Neareo: Powering QR codes
Reconocimiento facial y lucha contra el crimen: por qué los sesgos pueden llevar a una justicia llena de prejuicios
Reconocimiento facial y lucha contra el crimen: por qué los sesgos pueden llevar a una justicia llena de prejuicios
Proxyclick: Getting ready for the future of work
Proxyclick: Getting ready for the future of work
IEE: People Counter
IEE: People Counter
Ai.just: AI to keep COVID-19 in check at work
Ai.just: AI to keep COVID-19 in check at work
Go Zero Waste: A guide to zero waste living
Go Zero Waste: A guide to zero waste living
Recommended profiles for you
Remember to activate your profile to network!
Activate profile
Epko van Nisselrooij
Epko van Nisselrooij
Axis Communications
Business Development Manager, Smart Cities
KS
Krunal S
NEC
Senior Officer for ITMS Surveillance
ja
javi alvarez
grup j muntaner
MANAGER DEPARTMENT IT
Avinash Ghuge
Avinash Ghuge
Acor Abhay Systems Pvt Ltd
Director
MG
Mario Guvo
Eupolis Group
Business Intelligence Analyst
Romulo Menezes
Romulo Menezes
none
Special Advisor
GP
Greg Pittman
Pittman & Associates, Inc.
consultant
AG
ALEKSANDAR GJORGJIEV
municipality od Kavadarci
head of IT department
WO
Williams Ojugbeli
Critical Infrastructure Resilience Company
Electronic Intelligence Analyst
Johnny lee
Johnny lee
Axis Communications
Business Development Manager - Smart Cities/ Critical Infra/ Transport
PP
Pascal PUJOL
EIFFAGE ENERGIE SYSTEMES
.
GI
GHEORGHE IORDACHE
KAUST
Director of the Nanofabrication Core Lab
AS
Andy Smeets
NMB MinebeaMitsumi
Sales Engineer
MS
Minna Säpyskä-Aalto
The Baltic Institute of Finland
Senior Specialist in international funding and projects.
Erisman Ferney Vanegas
Erisman Ferney Vanegas
Microsoft
Microsoft data ciberseguridad big data machine learning
CS
Chandreyi Saha
Skyline Tech
President
AG
Ariel Gomez
Smart City Mag
editor in chief
CT
Clayton Tomazetti
HDI Seguros
Coordenador de estatistica
MP
Margarida Patricio
Wow
Ceo
christophe.jaubert Christophe Jaubert
christophe.jaubert Christophe Jaubert
Vitry en action • Libérons le potentiel de Vitry-sur-Seine
Founder and currently secretary and vice-president.

Only accessible for registered users
This content is available only for registered users
TO: $$toName$$
SUBJECT: Message from $$fromName$$