IBM arrête ses travaux en reconnaissance faciale

IBM arrête ses travaux en reconnaissance faciale

Rédigé le 11/06/2020


Quand mi-mai 2019, la ville de San Francisco a pris la décision officielle de ne plus se servir d'outils de reconnaissance faciale, notamment pour son service de police, l'affaire avait fait grand bruit. Ce 8 juin 2020, IBM fait plus grand bruit encore en annonçant purement et simplement cesser de travailler sur ces technologies.

Le dirigeant d'IBM en appelle à un débat national

Le PDG Arvind Krishna adresse une lettre (publiée sur le site web d'IBM) au Congrès américain expliquant que son groupe était prêt à travailler avec les parlementaires pour définir quels doivent être les bons usages de ce type d'outil, dans quels domaines, comment éviter les inégalités. Le dirigeant en appelle à un débat national et précise surtout qu'il faudra décider si oui ou non des services de polices et de maintien de l'ordre peuvent y avoir recours.

En attendant, IBM ne vend plus aucun logiciel relatif à la reconnaissance faciale et la lettre du PDG ajoute que le géant informatique “s'oppose fermement à quelque technologie de reconnaissance faciale que ce soit, y compris celles d'autres prestataires, et n'approuvera aucun usage destiné à la surveillance de masse, au profilage racial, aux violations des droits et libertés humains les plus élémentaires”.

Repli sur la détection d'objet

Le groupe compte se replier sur la détection visuelle d'objets, et non plus de visages, dans un cadre industriel par exemple.

La reconnaissance faciale fait l'objet de débats tendus depuis quelque temps, surtout aux Etats-Unis, tant sur son efficacité, son potentiel discriminatoire que sur la manière pas toujours transparente dont elle est déployée. Plusieurs études et tests ont dénoncé les biais dont les technologies des uns et des autres souffraient. Comme une étude du National Institute of Standards and Technology (NIST), une autre de l'institut AI Now, ou une autre de l'ACLU (American Civil Liberties Union) montrant que la technologie Rekognition d'Amazon, très utilisée par les forces de police aux Etats-Unis, pouvait confondre des élus du Congrès avec des criminels

En France, ces débats étaient d'actualité jusqu'au début de l'année. Un test grandeur nature, dans la rue, a été mené à Nice lors du Carnaval 2019 avec l'autorisation de la Commission nationale de l'informatique et des libertés (Cnil). Le compte rendu n'a cependant pas satisfait la Commission. Laquelle a par ailleurs refusé une expérimentation de sas à reconnaissance faciale dans deux lycées de la région Provence-Alpes-Côte-d'Azur la même année.

C'est dans ce contexte que la Cnil a demandé en novembre 2019 la tenue, en France, d'un débat, même si la reconnaissance faciale est d'ores et déjà encadrée par les règles en matière de biométrie. Quelques mois plus tard, en février 2020, le secrétaire d'Etat au numérique Cédric O plaidait, lui, pour la tenue d'une expérimentation limitée. L'heure étant au déconfinement (avant un éventuel reconfinement), les choses en sont toujours aux déclarations d'intention.

Source : Science et Avenir

Information additionnelle : La reconnaissance faciale actuelle n’est pas fiable à 100 %. Une étude du MIT réalisée en 2019 montre qu'aucun outil, que ce soit de Microsoft, d’Amazon ou d’IBM, n'est réellement fiable. Ils présentent tous des biais. Ils reconnaissent bien les hommes blancs mais ils se trompent beaucoup sur les personnes noires, notamment les femmes. La raison est visiblement une lacune au niveau de l’entrainement de ces logiciels.

IBM dit qu’il s’oppose à la surveillance de masse et au profilage racial et dénonce les biais de l’intelligence artificielle qui peuvent conduire à des abus. Mais il ne tourne pas le dos à l’usage des technologies par la police. La firme estime que les caméras corporelles pour les policiers et les "techniques modernes d'analyse de données" sont utiles car elles peuvent apporter plus de transparence. IBM appelle à une concertation et à un cadre juridique précis pour l’usage de ces technologies.

les entreprises de technologie font actuellement l’objet d’une forte pression pour les inciter à se positionner face aux évènements qui agitent les États-Unis. Ainsi, des associations demandent à Amazon de ne plus fournir ses solutions de reconnaissance faciale à la police.

On ne sait pas bien ce que cache réellement la décision d’IBM mais elle aura peut-être pour conséquence d’ouvrir le débat du côté des "Big Tech".

Source : France Info

A noter qu'après IBM, Amazon vient également d'annoncer la fin de la vente de sa technologie de reconnaissance faciale à la police pendant une durée d'un an, afin de permettre l'ouverture de discussion sur le sujet. 

Source : Clubic