Dans ce récit captivant, la journaliste du New-York Times Kashmir Hill suit l’ascension improbable de Clearview AI, une petite startup de reconnaissance faciale qui a créé l’outil ultime de surveillance. Avec sa base de données contenant des milliards de visages, Clearview AI peut extraire, d’une seule image, chaque détail de la vie digitale d’une personne. Bien que Google et Facebook aient décidé qu’il était trop radical et risqué de sortir un outil permettant d’identifié n’importe qui, Clearview AI – dirigée par Hoan Ton-That, un ingénieur en informatique australien, et Richard Schwartz, un ancien conseiller de Rudy Giuliani – sont allés de l’avant. Soutenus par un casting pour le moins controversé, dont Peter Thiel (l’un des fondateurs de Paypal), Ton-That et Schwartz ont partagé leur application avec des investisseurs privés, l’ont présenté à des entreprises, et l’ont offert à des milliers d’agences de renseignement et des forces de l’ordre à travers le monde.
La technologie de reconnaissance faciale, qui créée un lien dangereux entre nos vies en ligne et en personne, a connu une croissance discrète depuis plusieurs décennies et a déjà été utilisée pour perpétrer des arrestations injustifiées aux États-Unis. Non régulée, cette technologie pourrait étendre la portée des services de police, comme c’est le cas en Chine et en Russie, à un niveau dystopique terrifiant.
Your Face Belongs to Us (Votre viste nous appartient en français) est une histoire vraie captivante à propos de la montée d’une superpuissance et un avertissement urgent qui, en l’absence de vigilance et de régulation gouvernementale, pourrait menacer ce que le juge à la Cour suprême Justice Louis Brandeis appelait le « droit d’être laissé seul ».
NDLR – L’ouvrage n’étant pas disponible en français à l’heure ou j’écris cet article, j’ai traduit les extraits et le résumé du livre.
Kashmir Hill est une enquêtrice américaine spécialisée dans la Tech. Elle est journalisme au New-York Times. Elle s’intéresse notamment à l’intersection entre la vie privée et la technologie. Hill a écrit de nombreuses publications dans The New Yorker, The Washington Post, Gizmodo, Popular Science, et Forbes.
En 2020, elle publie un article à la une du New-York Times intitulé « The secretive company that might end privacy as we know it » qui dévoilera au monde l’histoire saisissante de ce qui allait devenir Clearview AI.
Prologue: The Tip
PART I : THE FACE RACE
PART II : TECHNICAL SWEETNESS
PART III : FUTURE SHOCK
Acknowledgments
A note on Sources
Notes
Index
Nombre de pages
336
Langue
Anglaise
Année de publication
2023
Éditeur
Random House
ISBN
978-0-593-448571
Dans Your Face Belongs To Us, la journaliste du New-York Time Kashmir Hill nous retrace l’incroyable aventure de Ton-That, ingénieur informatique australien qui vient tenter sa chance aux États-Unis. Sans être un complet losser, Ton-That cherche désespéramment l’application qui légitimera son expertise.
Acheter le livre:
Et soutenir le blog
À travers une enquête minutieuse, Kashmir Hill nous fait vivre les doutes, les échecs et les succès d’un entrepreneur naviguant dans les zones troubles de la Silicon Valley, entre les investisseurs peu regardants, des experts en communication, des services de renseignements et des forces de l’ordre.
Véritable poisson-pilote destiné à tester l’appétence du marché et l’acceptation de l’opinion public aux outils de reconnaissance faciale, Clearview AI est le produit de l’obstination de son créateur. Faisant sienne le moto de Facebook qui veut « bouger rapidement en cassant les choses « , l’entreprise avance à marche forcée pour collecter le plus de visages possible d’Internet, dans la plus totale illégalité. A la manière d’un OpenAI qui s’assoit sur la notion de droit d’auteur et de propriété intellectuelle, Clearview pourrait remettre en cause la notion même de vie privée telle que nous la connaissons aujourd’hui dans les démocraties occidentales.
Un livre passionnant que je recommande. A noter que malheureusement, le livre n’a pas (encore) été traduit en français.
Dans les années suivantes, l’approche de Turk [connue sous le nom de eigenface, une technique de vision artificielle utilisée par les outils de reconnaissance faciale] suivit son cours. Elle était enseignée à l’université et sa recherche était citée par plus de vingt milles chercheurs. « Je n’avais aucune idée que ça allait devenir aussi important que cela » déclara Turk. L’approche eigenface de Turk représentait un point pivot, uné étape qui suggérait que les ordinateurs pourraient traiter des données pour « voir » le monde et les personnes autour d’eux. (p.47)
Les sites comme Facebook et LinkedIn interdisent les tiers d’extraire leur contenu et ils ont mis en place des mesures de protection technique pour les bloquer, notamment des mécanismes d’ajustements permettant de limiter la quantité qu’un seul utilisateur peut aspirer, et combien de fois il peut le faire […]. Smartcheckr « collecte des données provenant des réseaux sociaux à travers une méthode indétectable qui accède à plus de 20k adresses IP résidentielles dans le monde ». […] Cette méthode indétectable est très similaire aux services de type réseau proxy que n’importe quel business peut acheter. (p.58)
Doté d’une richesse incommensurable, Thiel pouvait investir dans des entreprises prometteuses de la même manière qu’une personne normale pouvait craquer pour un café latté. Thiel était au board de Facebook, et aurait pu trouver ce développement troublant compte tenu des implications sur la vie privée des utilisateurs du réseau social. Mais cela ne semble pas l’avoir touché, ou alors il s’en fichait, car le mois d’après, en juillet 2017, un des lieutenants de Thiel envoya un email à Ton-That pour lui indiquer que Thiel était intéressé pour investir $200,000. Smartcheckr avait sont premier investisseur. (p.80)
Acheter le livre:
Et soutenir le blog
La base de données de Clearview grossissait. À la fin de l’année 2018, l’entreprise avait collecté un milliard de visages sur Internet, rendant possible l’identification d’une partie importante d’individus sur la planète, certains pouvant voir plusieurs photos d’eux-mêmes ressortir lors d’une recherche. […] Et [Clearview] avait l’avantage du premier entrant. Facebook, Google et les autres big tech possédaient de plus importantes bases de données de photos et de noms associés, mais aucune n’avait décidé de sortir un produit comme Clearview. […] La raison pour laquelle les géants de la Silicon Valley n’avaient pas sorti leur propre version d’un logiciel de reconnaissance faciale pour identifier les étrangers n’était pas lié au fait qu’ils ne puissent pas la construire, mais qu’ils avaient peur de le faire. (p.96)
Quand Swisher demanda à Eric Schmidt à propos des lunettes Google et de la reconnaissance faciale, il fut étonnamment candide. « Nous avons créé cette technologie, et nous l’avons retiré », dit-il. « De ce que je sais, c’est la seule technologie Google qui, après avoir l’avoir analysée, nous avons décidé d’arrêter son développement ». […] Alors que Schmidt était sur scène, déclarant à deux journalistes véhéments que la reconnaissance faciale universelle n’était pas un produit que Google sortirait, l’entreprise négociait l’acquisition de Pittsburgh Pattern Recognition (PittPatt). (p.103)
Acquisti était fasciné par le « paradoxe de la vie privée » (privacy paradox), phénomène marqué par les personnes déclarant être sensibles à la protection de leur vie privée sans pour autant comprendre ce qu’ils doivent mettre en œuvre pour la protéger […]. Au moment même ou Acquisti et ses collègues présentaient leurs travaux, il n’était déjà plus possible de répliquer ce qu’ils avaient fait. Google en rachetant PittPatt avait rendu la technologie privée. C’était une tendance dans la Silicon Valley; les géants de la Tech mettaient la main sur des pépites technologiques pour s’assurer de rester aux avants-postes de l’innovation. L’année précédénte, Apple avait acheté une entreprise suédoise de reconnaissance faciale nommée Polar Rose, et de manière similaire ferma le service aux utilisateurs externes. Les poids lourds de la Silicon Valley étaient de facto des gatekeepers pour définir comment – et si – la tech devait être utilisée. (p.108)
Extraire des photos et les faire ressortir était une forme d’expression. Mais cela n’était pas forcement tiré par les cheveux. Les juges ont établi un certain nombre d’expressions humaines et organisationnelles qui pouvait être protégé par le Premier Amendement, incluant le code informatique, les dépenses politiques, les jeux vidéo, et les recherches Internet. « J’ai trouvé cela très intéressant », déclara Abrams. « Ici, nous avons des juges du XXIe siècle qui travaillent sur des technologies du XXIe siècle pour voir si elles sont cohérentes avec un document établi au XVIIIe siècle ». (p.206)
Un fabriquant de lunettes dans le Michigan nommé Scott Urban a développé une ligne de verres réflectifs qui repoussent les lumières visibles et infrarouges. Lorsqu’une caméra de surveillance filme une personne portant une paire de Reflectacles ($168), la lumière réfléchissante floute le visage.
En 2010, alors que Adam Harvey n’était encore qu’un étudiant à la NYU, il inventa le CV Dazzle, un camouflage (maquillage, coiffure, …) destiné à tromper les outils de vision artificielle.
Ils pourraient casser le système avec leur données. C’est la piste poursuivit par le professeur Ben Zhao. « Notre objectif est de faire disparaitre Clearview ». […] Le logiciel mis au point par Zhao, intitulé Fawkes réalise des modifications au niveau des pixels pour perturber les outils de reconnaissance faciale.
