Lanzada una guía para el uso seguro y ético de las herramientas de reconocimiento facial

La BSI ha publicado una nueva guía para garantizar que la tecnología de reconocimiento facial (FRT) actúe como una fuerza para el bien en la sociedad, con el objetivo de ayudar a las organizaciones a superar los desafíos éticos asociados con el uso de la tecnología y, como resultado, generar confianza en su uso. .

El uso de herramientas de reconocimiento facial impulsadas por Inteligencia Artificial (IA) es cada vez más común, incluso con fines de seguridad, como en la coronación del rey Carlos o en importantes eventos deportivos, como partidos de fútbol, ​​y para frenar los hurtos en tiendas. FRT mapea las características físicas de un individuo en una imagen para formar un modelo facial, que se puede comparar con otras imágenes almacenadas en una base de datos para verificar un alto nivel de similitud o identificar la presencia de un individuo en una ubicación específica en un momento determinado. tiempo.

Una investigación reciente de BSI ha demostrado que el 40% de las personas en todo el mundo espera utilizar identificación biométrica en los aeropuertos para 2030. Su proliferación ha generado preocupaciones sobre el uso seguro y ético, incluso en torno a tasas de error raciales o de género de alto perfil. casos, incluido uno que involucra software utilizado por Uber. Una auditoría realizada en 2022 evaluó el uso policial del reconocimiento facial y encontró que el despliegue habitualmente no cumplía con los estándares éticos y legales mínimos.

El nuevo estándar ha sido desarrollado por BSI, en su papel de Organismo Nacional de Normalización del Reino Unido, para aliviar las preocupaciones ayudando a las organizaciones a navegar por las herramientas y generar confianza pública. Esto sigue a la encuesta BSI Trust in AI que muestra que el 77% de las personas creía que la confianza en la IA era esencial para su uso en vigilancia.

Diseñado para organizaciones públicas y privadas que utilizan y/o monitorean Sistemas de Video Vigilancia (VSS) y tecnologías faciales biométricas, el código de práctica es aplicable a toda la cadena de suministro, que comienza con una evaluación para determinar la necesidad de utilizar FRT. para su adquisición. , instalación y uso adecuado de la tecnología. Tecnología de reconocimiento facial – Uso e implementación éticos en sistemas basados ​​en videovigilancia – El Código de prácticas (BS 9347:2024) establece seis principios generales clave de «fiabilidad». Estos están respaldados por un resumen de las políticas que se requieren y deben mantener aquellos a lo largo de la cadena de suministro. La guía cubre su aplicabilidad en gobernanza y rendición de cuentas, agencia humana y supervisión, privacidad y gobernanza de datos, solidez y seguridad técnicas, transparencia y poder explicativo, diversidad, no discriminación y justicia.

Dado que se espera que la industria valga 13.400 millones de dólares a nivel mundial para 2028, el estándar establece la importancia de revisar periódicamente la ética de la IA y su aplicación en FRT. Incluye mejores prácticas y proporciona orientación sobre barreras de seguridad apropiadas para el uso seguro e imparcial de FRT al definir dos escenarios: identificación y verificación. En primer lugar, al igual que la identificación de personas entre multitudes en eventos, el estándar exige que la FRT se utilice junto con la intervención humana o medidas de intervención humana para garantizar una identificación precisa antes de tomar medidas.

En escenarios de verificación donde la tecnología puede operar de forma autónoma, como el control de acceso a edificios, la autenticación de una transacción de pago o el desbloqueo de un teléfono, el estándar establece barreras para el aprendizaje de la tecnología al garantizar que los datos de capacitación incluyan conjuntos de diversos grupos demográficos y en variedad. de niveles de luz y ángulos de cámara, para eliminar imprecisiones y mitigar el riesgo de sesgo a través de falsos positivos.

Scott Steedman, Director General de Estándares de BSI, dijo: “Las herramientas de reconocimiento facial basadas en IA tienen el potencial de ser una fuerza impulsora para el bien y beneficiar a la sociedad a través de su capacidad para detectar y monitorear posibles amenazas a la seguridad.

“Este código de práctica está diseñado para ayudar a las organizaciones a superar los desafíos éticos asociados con el uso de sistemas FRT y, como resultado, generar confianza en su uso. Su objetivo es integrar las mejores prácticas y brindar orientación sobre las barreras de seguridad adecuadas que las organizaciones pueden establecer para salvaguardar los derechos civiles y eliminar los prejuicios y la discriminación en el sistema».

Dave Wilkinson, Director de Servicios Técnicos de la Asociación Británica de la Industria de Seguridad, dijo: «El uso de FRT no ha estado exento de desafíos, ya sea debido a la precisión de la tecnología o a cómo y dónde se implementa. Grupos de privacidad, partes interesadas de la industria y otras partes interesadas han formulado muchas preguntas relevantes sobre el uso apropiado y proporcionado de dicha tecnología. Este código de práctica tiene como objetivo infundir confiabilidad en el uso del FRT mediante el establecimiento de principios clave que cubren todo el proceso, desde la evaluación de la necesidad de usarlo hasta garantizar que su operación continua sea adecuada para su propósito y esté justificada.

«Alineado con una comprensión del desarrollo de la regulación tanto aquí en el Reino Unido como en el panorama regulatorio internacional más amplio, el código de práctica tiene como objetivo generar confianza con quienes desarrollan, utilizan y están sujetos a su uso».