Royaume-uni : un système de reconnaissance faciale biaisé mis en cause après une étude choc
Essex : la police suspend l'utilisation de la reconnaissance faciale après qu'une étude révèle un biais racial significatif. Les caméras, déployées dans plusieurs comtés d'Angleterre et du Pays de Galles, ont montré une plus grande propension à cibler les personnes noires.
Une étude universitaire dénonce des disparités alarmantes
L'Information Commissioner’s Office (ICO) a révélé que la police de l'Essex a interrompu le déploiement de ses systèmes de reconnaissance faciale (RF) suite à une étude menée par des chercheurs de l'université de Cambridge. Les résultats, publiés cette semaine, indiquent que le système identifie correctement environ la moitié des personnes figurant sur une liste de surveillance, mais avec des taux variables selon l'ethnicité. Si les identifications erronées sont rares, les personnes noires sont plus susceptibles d'être identifiées à tort que les autres groupes ethniques.
La recherche a révélé que le système était plus performant pour identifier les hommes que les femmes. Plus préoccupant encore, il accusait statistiquement plus fréquemment les participants noirs que les autres.
« Si vous êtes un délinquant passant devant les caméras de reconnaissance faciale, qui ont été déployées comme elles l'ont été dans l'Essex, les chances d'être identifié comme figurant sur une liste de surveillance policière sont plus grandes si vous êtes noir », a déclaré le Dr Matt Bland, criminologue et co-auteur de l'étude, à The Guardian et Liberty Investigates. Il appelle à une enquête approfondie.
L'étude souligne que le problème diffère des préoccupations habituelles concernant l'identification de citoyens innocents. Récemment, un homme avait été arrêté pour cambriolage dans une ville qu'il n'avait jamais visitée, suite à une erreur de reconnaissance faciale qui l'avait confondu avec une autre personne d'origine sud-asiatique, à 161 km de distance.
Le Home Office affirme que les caméras de RF déployées à Londres entre janvier 2024 et septembre 2025 ont mené à plus de 1 300 arrestations de personnes recherchées pour des crimes graves, notamment des violences sexuelles, des violences conjugales, des cambriolages et des blessures graves. Mais les opposants à cette Technologie estiment que cette étude confirme les avertissements concernant les biais inhérents à la reconnaissance faciale.
« La surveillance par IA, expérimentale, non testée, imprécise ou potentiellement biaisée, n'a pas sa place dans nos rues », a déclaré Jake Hurfurt, responsable de la recherche et des enquêtes chez Big Brother Watch. La police de l'Essex n'a pas commenté directement les conclusions de l'étude. Cette suspension soulève des questions fondamentales sur l'adéquation et l'éthique de ces technologies de surveillance.
Des experts suggèrent que le biais pourrait être dû à un sur-entraînement de l'algorithme sur des visages noirs, une situation corrigeable par des ajustements des paramètres du système. Un rapport indépendant du National Physical Laboratory du gouvernement britannique a également révélé que les hommes noirs étaient les plus fréquemment correctement identifiés, tandis que les hommes blancs étaient les moins susceptibles d'être reconnus. Cependant, cet effet n'était pas statistiquement significatif.
La décision de l'Essex de suspendre l'utilisation de la Technologie est un signal clair. L'affaire soulève la question de savoir si les bénéfices potentiels de la reconnaissance faciale l'emportent sur les risques de discrimination, et si les garanties nécessaires sont en place pour protéger les droits fondamentaux des citoyens. L’avenir de ces technologies de surveillance est désormais plus incertain que jamais.