Microsoft, WinBeta
La technologie de reconnaissance faciale étant déployée à un rythme accéléré, à la fois dans les entreprises, les gouvernements et les consommateurs, le président et chef du service juridique de Microsoft, Brad Smith, a appelé les entreprises technologiques du secteur à respecter leurs responsabilités éthiques, ainsi que des appels à les gouvernements à créer des réglementations, Microsoft estimant que cela créera une industrie plus saine dans un environnement concurrentiel.
Discuté dans Le blog «On The Issues» de Microsoft , Brad Smith expose ses réflexions et celles de Microsoft sur le sujet de la reconnaissance faciale et ce qui doit être abordé.
Smith a examiné les avantages que les progrès de la technologie faciale peuvent apporter, comme retrouver un enfant disparu, ou aider la police à identifier un terroriste, ou même aider dans la vie quotidienne en utilisant un smartphone et une application pour aider une personne aveugle à savoir qui vient d'entrer en réunion. pièce.
Certaines utilisations émergentes sont à la fois positives et potentiellement même profondes. Imaginez trouver une jeune enfant disparue en la reconnaissant alors qu'elle se promenait dans la rue. Imaginez aider la police à identifier un terroriste voué à la destruction alors qu’il entre dans l’arène où vous assistez à un événement sportif. Imaginez une caméra et une application pour smartphone qui indiquent à une personne aveugle le nom de la personne qui vient d'entrer dans une pièce pour rejoindre une réunion.
La technologie, comme la plupart des choses, a cependant ses inconvénients, et c'est là que Smith veut que le gouvernement et les entreprises technologiques agissent. Certains des problèmes qui pourraient survenir, et dans certains cas se produisent déjà, comprennent:
- Les gouvernements enregistrent partout où vous marchez
- Une base de données de personnes ayant assisté à un rassemblement politique
- Stocke des informations partagées sur chaque étagère que vous regardez et les produits que vous achetez, sans demander
Mais d'autres applications potentielles donnent à réfléchir. Imaginez un gouvernement qui suit partout où vous avez marché au cours du mois dernier sans votre permission ni votre connaissance. Imaginez une base de données de tous ceux qui ont assisté à un rassemblement politique qui constitue l'essence même de la liberté d'expression. Imaginez les magasins d'un centre commercial utilisant la reconnaissance faciale pour partager des informations sur chaque étagère que vous parcourez et le produit que vous achetez, sans vous le demander au préalable. Cela fait longtemps partie de la science-fiction et des films populaires - comme «Minority Report», «Enemy of the State» et même «1984» - mais maintenant, c'est sur le point de devenir possible.
L'entreprise estime qu'un «cadre réglementaire commun» est nécessaire. Cela contribuera à créer une industrie saine, tout en garantissant le respect des responsabilités éthiques et à créer des conditions de concurrence équitables permettant à toutes les entreprises de connaître les règles qu'elles doivent suivre, ce qui à son tour créerait la stabilité de l'industrie. Décrivant certains des problèmes que les gouvernements et les entreprises doivent résoudre, Smith déclare:
- L’utilisation de la reconnaissance faciale par les forces de l’ordre devrait-elle être soumise à une surveillance et à des contrôles humains, y compris à des restrictions sur l’utilisation de la technologie de reconnaissance faciale non assistée comme preuve de la culpabilité ou de l’innocence d’un individu à l’égard d’un crime?
- De même, devrions-nous nous assurer qu'il existe une surveillance civile et une responsabilité pour l'utilisation de la reconnaissance faciale dans le cadre des pratiques technologiques gouvernementales en matière de sécurité nationale?
- Quels types de mesures juridiques peuvent empêcher l'utilisation de la reconnaissance faciale pour le profilage racial et d'autres violations des droits tout en permettant les utilisations bénéfiques de la technologie?
- L'utilisation de la reconnaissance faciale par les autorités publiques ou autres devrait-elle être soumise à des niveaux de performance minimaux en matière de précision?
- La loi devrait-elle exiger que les détaillants affichent un avis visible de leur utilisation de la technologie de reconnaissance faciale dans les espaces publics?
- La loi devrait-elle exiger que les entreprises obtiennent un consentement préalable avant de collecter des images individuelles pour la reconnaissance faciale? Dans l'affirmative, dans quelles situations et à quels endroits cela devrait-il s'appliquer? Et quelle est la manière appropriée de demander et d'obtenir un tel consentement?
- Devrions-nous nous assurer que les individus ont le droit de savoir quelles photos ont été collectées et stockées qui ont été identifiées avec leurs noms et visages?
- Devrions-nous créer des processus qui accordent des droits légaux aux personnes qui croient avoir été mal identifiées par un système de reconnaissance faciale?
Les problèmes de Microsoft avec la technologie de reconnaissance faciale ont été récemment mis en évidence lors du scandale de la séparation des enfants d'immigrants, dans lequel Microsoft a été accusé d'avoir contribué à la technologie de reconnaissance faciale pour ICE. La société a déclaré que son contrat n'incluait pas la technologie de reconnaissance faciale et qu'elle n'avait pas aidé à séparer les enfants des familles immigrantes.
Mots clés Microsoft
