¿Por qué la gente odia la tecnología de reconocimiento facial?

Vota este post

El reconocimiento facial está cambiando todo… la forma en que vivimos e interactuamos con nuestra sociedad. Al igual que otras tecnologías, hoy en día se usa ampliamente en los sistemas de vigilancia, principalmente para rastrear e identificar a delincuentes/fugitivos en la lucha contra delitos como la trata de personas, el secuestro, etc. En los negocios y las finanzas, la tecnología se está convirtiendo en una opción popular de pago para maximizar seguridad y minimizar el fraude.

En el transporte, la tecnología se ha implementado en estaciones de tren y aeropuertos para ahorrarles a los viajeros el tiempo de registrarse, ayudarlos a pagar sus tarifas e identificar a los conductores sin licencia y a los peatones imprudentes. En el campo de la medicina, se utiliza en la identificación de pacientes, el seguimiento, el análisis de sentimientos y el diagnóstico de trastornos genéticos, mientras que en la educación, el reconocimiento facial ayuda a mejorar la seguridad del campus, combatir el acoso escolar, así como el seguimiento de la asistencia, etc.

Aunque el reconocimiento facial está beneficiando a nuestra sociedad de muchas maneras, la controversia y las preocupaciones están aumentando, y hay una buena cantidad de razones por las que las personas no están contentas con el uso de la tecnología. Incluyen los riesgos potenciales relacionados con la privacidad, la seguridad, la precisión y el sesgo.

Privacidad

En febrero de 2019, los expertos en seguridad identificaron a SenseNets, una empresa de software de seguridad y reconocimiento facial en Shenzhen, por tener una fuga grave de datos de una base de datos desprotegida, incluidos más de 2,5 millones de registros de ciudadanos con información personal. En agosto de 2019, se encontró información personal de más de 1 millón de personas, incluidos datos biométricos como huellas dactilares e información de reconocimiento facial, en una base de datos de acceso público utilizada por la policía metropolitana del Reino Unido, contratistas de defensa y bancos por igual. Dichas violaciones de datos pueden poner a las víctimas en una desventaja considerable, particularmente cuando se considera que la información biométrica es casi permanente y los efectos de la filtración son severos y duraderos.

Seguridad

Aunque generalmente se considera como un medio para identificar la seguridad, el reconocimiento facial no se considera lo suficientemente seguro. La investigación muestra que los videos Deepfakes generados por GAN son un desafío para los sistemas de reconocimiento facial, y al considerar el desarrollo adicional de la tecnología de intercambio de rostros, dicho desafío será aún más significativo. En otra investigación, el mejor sistema público de identificación de rostros de ArcFace es atacado al agregar calcomanías de papel impresas a un sombrero, y el modelo de identificación de rostros se confundió.

Exactitud

En escenarios del mundo real, los sistemas de reconocimiento facial no siempre son confiables. Un informe muestra que el sistema de reconocimiento facial de la Policía de Gales del Sur del Reino Unido identificó erróneamente miles de pruebas, lo que resultó en 2297 falsos positivos de un total de 2470 coincidencias, con una tasa de error de alrededor del 92 por ciento. A los críticos les preocupa que un desempeño tan deficiente pueda conducir a arrestos erróneos, así como a un lastre para el trabajo policial. Otra evaluación de la Universidad de Essex mostró que la tecnología de reconocimiento facial de la Policía Metropolitana solo acertó ocho en sus 42 coincidencias, con una tasa de error del 81 por ciento, y es probable que dicha implementación se considere «ilegal» si se impugna en los tribunales.

Inclinación

En el proyecto «Gender Shades», realizado por MIT Media Lab y Microsoft Research, se evaluaron los algoritmos de análisis facial de IBM, Microsoft y Megvii, y los resultados muestran que las mujeres de piel más oscura son el grupo más vulnerable a la clasificación errónea de género, con tasas de error. hasta un 34,4 por ciento más altas que las de los hombres de piel más clara. En un informe de la Unión Estadounidense de Libertades Civiles (ACLU), se realizó una prueba en la herramienta de reconocimiento facial «Reconocimiento» de Amazon comparando fotografías de 535 miembros del Congreso de EE. UU. con una base de datos de rostros de 25,000 fotografías de arrestos. Los resultados incluyen 28 coincidencias falsas, el 39 por ciento de las cuales son personas de color, aunque representan solo el 20 por ciento de la entrada.

En los Estados Unidos, los legisladores de San Francisco votaron unánimemente para prohibir el uso de la tecnología de reconocimiento facial en todas las agencias locales, incluidas las autoridades de transporte y de aplicación de la ley. Argumentan que la prohibición los protegerá contra posibles inexactitudes y prejuicios, y preservará su privacidad y libertad. Unos meses después, Somerville y Oakland también aprobaron la prohibición del uso del reconocimiento facial en las ciudades. En marzo de 2019, los senadores presentaron un proyecto de ley bipartidista, denominado Ley de privacidad del reconocimiento facial comercial, para ofrecer supervisión legislativa sobre la aplicación comercial del reconocimiento facial. Es probable que el proyecto de ley prohíba a los usuarios comerciales recopilar y volver a compartir datos faciales sin su consentimiento para identificar o rastrear a los consumidores.

Mientras tanto, una encuesta realizada por GlobalData muestra que el 53% de las personas dice ‘no’ al uso policial del reconocimiento facial. Sin embargo, el uso de la tecnología por parte de la policía y otras fuerzas del orden está generando divisiones. Dijeron que no estaban contentos con el uso de la tecnología de reconocimiento facial por parte de las fuerzas del orden, mientras que el 47 % dijo que estaba satisfecho con su uso por parte de dichas organizaciones.

“La respuesta llega cuando la UE está considerando prohibir el uso del reconocimiento facial hasta que la tecnología alcance una mayor etapa de madurez. Un borrador del libro blanco, que fue publicado por primera vez por el sitio web de noticias EURACTIV en enero, mostró que la Comisión Europea estaba considerando una prohibición temporal”, dijo la editora de tecnología Lucy Ingham.

“Propuso que ‘el uso de tecnología de reconocimiento facial en espacios públicos por parte de actores públicos o privados estaría prohibido durante 3 a 5 años durante los cuales se podría identificar y desarrollar una metodología sólida para evaluar los impactos y las posibles medidas de gestión de riesgos”.

“Si bien esto puede parecer extremo, particularmente dado que las fuerzas policiales de toda Europa ya están utilizando el reconocimiento facial, existe un caso de que la tecnología aún no esté lo suficientemente madura para su uso regular. Por ejemplo, un informe independiente sobre la tecnología de reconocimiento facial utilizada por la Policía Metropolitana para identificar a posibles sospechosos encontró que era inexacta en el 81 % de los casos. Sin embargo, el Met afirmó que la tasa de error era solo de 1 en 1000”.

Desde entonces, Met Police ha anunciado que ahora usará la tecnología como parte de las operaciones de rutina, un movimiento que Silkie Carlo, director de Big Brother Watch, calificó como “una enorme expansión del estado de vigilancia y una grave amenaza para las libertades civiles en el Reino Unido. Sin embargo, las fuerzas policiales sostienen que la tecnología previene el crimen y no viola la privacidad.

“También hay problemas con la identificación de personas de color, con pruebas realizadas por el gobierno de los EE. UU. que encuentran que incluso las tecnologías de reconocimiento facial más precisas identifican erróneamente a las personas negras a un ritmo al menos cinco veces mayor que el de las personas blancas”, dijo Lucy.