L'utilisation de l'intelligence artificielle (IA) par la police, comme par exemple la reconnaissance faciale, doit avoir des limites pour ne pas tomber dans la surveillance de masse, a mis en garde mercredi le Parlement européen.
"Des contrôles humains et juridiques élevés sont nécessaires pour prévenir la discrimination par l'IA, en particulier dans le cadre des services répressifs ou dans un contexte transfrontalier", estime le Parlement européen dans un communiqué.
"Les décisions finales doivent toujours être prises par un être humain et les personnes soumises à des systèmes alimentés par l'IA doivent disposer de voies de recours", ont ajouté les eurodéputés, à l'occasion d'un vote à Strasbourg.
Le texte adopté, qui n'a pas force législative mais vise à inspirer la Commission européenne à l'initiative des lois dans l'UE, a divisé les eurodéputés puisque 377 d'entre eux ont voté pour, mais 248 ont voté contre et 62 se sont abstenus.
Le principal groupe politique du Parlement européen, les conservateurs du PPE, a majoritairement voté contre, de même que la plupart des députés d'extrême droi te du groupe ID, tandis que les députés de gauche, libéraux et écologistes ont voté en faveur du texte.
"Nous envoyons un message clair: les droits fondamentaux sont irrévocables.
Pour la toute première fois, nous appelons à un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, ces technologies ayant démontré leur inefficacité et souvent abouti à des résultats discriminants", a insisté le rapporteur de la résolution, l'eurodéputé socialiste bulgare Petar Vitanov.
Le texte adopté recommande l'utilisation d'algorithmes ouverts et traçables, l'interdiction de bases de données privées de reconnaissance faciale et de la police prédictive, qui cherche à anticiper les comportements à partir de données.
En outre, aucune reconnaissance automatique ne devrait être utilisée aux contrôles aux frontières ou dans les espaces publics, les citoyens ne devant être surveillés que s'ils sont soupçonnés d'un crime ou d'un délit, soulignent les députés européens.