Facebook ferme son système de reconnaissance faciale

PROVIDENCE, RI – Facebook a annoncé qu’il fermerait son système de reconnaissance faciale et supprimerait les empreintes faciales de plus d’un milliard de personnes en raison des inquiétudes croissantes concernant la technologie et son utilisation abusive par les gouvernements, la police et d’autres.

« Ce changement représentera l’un des plus grands changements dans l’utilisation de la reconnaissance faciale dans l’histoire de la technologie », a déclaré Jerome Bisenti, vice-président de l’intelligence artificielle chez Meta, la nouvelle société mère de Facebook. Écrit dans un article de blog Mardi. « Supprimer cela supprimera plus d’un milliard de personnes des modèles de reconnaissance faciale individuels. »

Il a déclaré que la société essayait d’équilibrer les cas d’utilisation positifs de la technologie « par rapport aux préoccupations sociétales croissantes, d’autant plus que les régulateurs n’ont pas encore fourni de règles claires ».

Le changement de visage de Facebook fait suite à quelques semaines chargées. Jeudi, elle a annoncé son nouveau nom, Meta pour Facebook, l’entreprise, mais pas le réseau social. Elle a déclaré que le changement l’aiderait à se concentrer sur la création de technologies pour ce qu’elle envisage comme la prochaine itération d’Internet – le « métavers ».

La société est également confrontée à sa plus grande crise de relations publiques à ce jour après que des documents de dénonciation divulgués aient montré à Frances Hogan qu’elle était consciente des dommages causés par ses produits et qu’elle n’a souvent rien fait pour les atténuer.

Plus d’un tiers des utilisateurs actifs quotidiens de Facebook ont ​​choisi de reconnaître leur visage via la plateforme du réseau social. C’est environ 640 millions de personnes. Mais Facebook a récemment commencé à réduire son utilisation de la reconnaissance faciale après l’avoir introduite il y a plus de dix ans.

En 2019, l’entreprise a mis fin à sa pratique consistant à utiliser un logiciel de reconnaissance faciale pour reconnaître les amis des utilisateurs dans les photos téléchargées et suggérer qu’ils soient automatiquement « marqués ». Au lieu de cela, il a remplacé la proposition de balise par un outil de reconnaissance faciale plus large, qui identifie les visages des personnes sur les photos pour différentes utilisations, pas seulement pour le marquage. La société a été poursuivie dans l’Illinois pour la fonctionnalité de suggestion d’étiquette et a accepté de payer 550 millions de dollars en conséquence.

Kristen Martin, professeur d’éthique technologique à l’Université de Notre Dame, a déclaré que la décision de mettre fin à l’utilisation de la reconnaissance faciale « est un bon exemple d’essayer de prendre des décisions de produits qui sont bénéfiques pour l’utilisateur et l’entreprise ». Cette décision démontre également la force de la pression réglementaire, a-t-elle ajouté, car le système de reconnaissance faciale est fortement critiqué depuis plus d’une décennie.

Il semble que Meta Platforms Inc. Facebook, la société mère de Facebook, étudie de nouvelles formes d’identification des personnes. Pesenti a déclaré que l’annonce de mardi incluait « un éloignement à l’échelle de l’entreprise de ce type de définition large et vers des formes plus étroites d’authentification personnelle ».

« La reconnaissance faciale peut être particulièrement utile lorsque la technologie fonctionne spécifiquement sur les appareils d’une personne », a-t-il écrit. « Cette méthode de reconnaissance faciale sur l’appareil, qui ne nécessite aucune connexion de données faciales à un serveur externe, est la plus courante aujourd’hui dans les systèmes utilisés pour déverrouiller les smartphones. »

Les chercheurs et les militants de la protection de la vie privée ont passé des années à poser des questions sur l’utilisation par l’industrie de la technologie des logiciels d’analyse faciale, citant des études qui ont montré qu’il fonctionnait de manière inégale au-delà des frontières de race, de sexe ou d’âge. L’une des préoccupations était que la technologie pouvait identifier de manière incorrecte les personnes à la peau plus foncée.

Un autre problème avec la reconnaissance faciale est que pour l’utiliser, les entreprises ont dû créer des empreintes faciales uniques d’un grand nombre de personnes – souvent sans leur consentement et de manière à pouvoir être utilisées pour alimenter des systèmes de suivi des personnes, a déclaré Nathan Whistler des Américains. L’Union des libertés civiles, qui a combattu Facebook et d’autres entreprises pour leur utilisation de la technologie.

« C’est une très grande reconnaissance que cette technologie est intrinsèquement dangereuse », a-t-il déclaré.

Les inquiétudes ont également augmenté en raison de la prise de conscience accrue du système de vidéosurveillance du gouvernement chinois, d’autant plus qu’il a été utilisé dans la région d’origine de l’une des minorités ethniques musulmanes de Chine.

Au moins sept États et près de deux douzaines de villes ont limité l’utilisation de la technologie par le gouvernement en raison des préoccupations concernant les violations des droits civils, les préjugés raciaux et les violations de la vie privée. Un débat sur les interdictions, les restrictions supplémentaires et les exigences de déclaration était en cours dans une vingtaine de capitales d’État lors de cette session législative, selon les données recueillies par l’Electronic Privacy Information Center en mai de cette année.

La nouvelle approche prudente de Meta en matière de reconnaissance faciale fait suite aux décisions prises l’année dernière par d’autres géants américains de la technologie comme Amazon, Microsoft et IBM de mettre fin ou de suspendre leurs ventes de logiciels de reconnaissance faciale à la police, citant des inquiétudes concernant les fausses identifications et au milieu d’un compte rendu américain plus large de la police et de l’injustice. .raciste.

Le bureau des sciences et technologies du président Joe Biden a lancé en octobre une mission d’enquête pour examiner la reconnaissance faciale et d’autres outils biométriques utilisés pour identifier les personnes ou évaluer leurs états émotionnels ou mentaux et leur personnalité. Biden a également nommé un critique féroce des pratiques de reconnaissance faciale, le professeur de droit Alvaro Bedoya, au poste de commissaire de la FTC. Bedoya, qui a fondé le Center for Privacy and Technology à la Georgetown Law School, a mené des recherches pionnières sur la façon dont la technologie discrimine les minorités et viole les droits civils.

Bien que l’administration Biden n’ait publié aucune déclaration de politique concernant la reconnaissance faciale, la nomination de Bedoya indique une inquiétude. Bedoya était l’ancien conseiller du personnel du Sénat du Minnesota, Al Franken, qui a tenu en 2012 la première audience du Sénat sur les dangers de l’utilisation de la reconnaissance faciale par Facebook.

Les régulateurs et législateurs européens ont également pris des mesures pour empêcher les forces de l’ordre de scanner les traits du visage dans les lieux publics, dans le cadre d’un effort plus large visant à réglementer les applications plus dangereuses de l’intelligence artificielle.

Les pratiques d’analyse faciale de Facebook ont ​​également contribué à l’amende de 5 milliards de dollars et aux restrictions de confidentialité que la Federal Trade Commission a imposées à l’entreprise en 2019. Le règlement de Facebook avec la FTC après l’enquête d’un an de l’agence incluait un engagement à demander avant que les photos et vidéos des personnes ne soient exposées Vidéo de la technologie de reconnaissance faciale.

——

Ortutay a rapporté d’Oakland, en Californie, et Frank Bajak a contribué à cette histoire de Lima, au Pérou.