L'installation vidéo interactive
Bodily vise à problématiser la technologie du scanner corporel. Ce travail s'intéresse en particulier aux progrès de l'imagerie thermique infrarouge et à la manière dont cette technologie est utilisée pour établir le profil des individus et diagnostiquer les problèmes de santé [1].
Pendant la pandémie mondiale, des dispositifs tels que les caméras thermiques sont devenus omniprésents. Même si ces dispositifs sont destinés à protéger la santé publique, ils peuvent également se transformer en instruments de contrôle social [2]. Les caméras thermiques peuvent être particulièrement violentes pour la vie privée car elles peuvent scanner l'intérieur du corps humain à distance et même si elles sont recouvertes par des vêtements ou derrière des murs [3].
Cette œuvre d'art sensibilise à la détection et à la collecte de données biométriques sensibles concernant nos corps et nos organes. Ces données biométriques peuvent établir le profil des empreintes digitales distinctes des personnes et abuser de leur vie privée dans l'espace public et en privé par le complexe industriel de la santé. Des algorithmes peuvent ensuite traiter les données collectées pour établir des diagnostics dans le cadre des soins de santé ou pour d'autres intérêts commerciaux. En outre, les scanners corporels et les données connexes sur les organes peuvent être utilisés pour détecter les sentiments humains. Des recherches récentes ont permis d'établir des cartes physiques des émotions humaines mesurées par des caméras thermiques balayant les températures des parties du corps et des organes.
La technologie biométrique est sujette à la surveillance, aux préjugés et à la discrimination. Il ne s'agit pas seulement de données sensibles sur la maladie chronique ou le handicap d'un individu qui peuvent être utilisées pour le discriminer, mais aussi de l'état de santé de chacun. Une simple variation de la température ou de la dimension des organes internes peut être détectée instantanément par des scanners corporels et éventuellement utilisée pour discriminer en matière d'accès à l'emploi, à la santé, aux transports, et même simplement en tant que membre de la société [4].
L'éthique de la technologie médicale est au cœur de l'œuvre d'art
Bodily en faisant référence aux avancées non réglementées et défectueuses de l'intelligence artificielle et de la vision par ordinateur utilisées pour diagnostiquer la santé et l'état mental des patients.
Après la pandémie mondiale de Covid, cette éthique doit être davantage vulgarisée et produire des débats publics et des cadres juridiques. La technologie médicale est désormais entrée dans la sphère publique et la vie quotidienne. La collecte effrénée de données médicales et l'opacité des algorithmes de diagnostic ne sont pas abordées et sont souvent justifiées par la pseudo-science introduite par les nouvelles technologies. Ces failles dans les cadres techniques, scientifiques, juridiques et éthiques de la technologie médicale peuvent entraîner des diagnostics biaisés, voire des conséquences fatales [5].
Par exemple, les récentes recherches scientifiques utilisant des caméras thermiques pour détecter les émotions humaines sont très discutables sur le plan éthique [6]. En créant des cartes physiques des variations de température dans les parties du corps, l'étude a permis d'identifier une topographie unique des sensations corporelles. Au final, l'irradiation thermique spontanée du corps détermine la santé et les émotions des individus par le biais de cartes corporelles de différentes sensations subjectives.
Cette recherche prétend rendre plausible l'expression thermique des émotions et classifier les événements corporels en profilant à distance les états de santé et mentaux par le biais de caméras thermiques. La mauvaise éthique de ce genre d'études médicales et psychologiques avancées semble présenter des similitudes paradoxales avec l'idée primitive selon laquelle les fluides corporels déterminent les tempéraments humains. La théorie du tempérament d'Hippocrate suggérait que quatre fluides corporels (appelés humour) - à savoir la bile noire, la bile jaune, le flegme et le sang - affectent directement la personnalité, le comportement et la santé d'un individu. Une croyance qui est restée en place pendant des siècles et qui a été utilisée dans la science et la médecine médiévales [7].
Au-delà du profilage des citoyens et de la surveillance de leurs émotions à l'aide d'empreintes corporelles, les dispositifs médicaux utilisant des scanners corporels et des algorithmes peuvent finalement décider du destin de la santé d'une personne. Le diagnostic médical est calculé par des algorithmes qui automatisent également les processus de décision médicale connexes. Il y a déjà eu de nombreux cas dans lesquels des algorithmes biaisés ont décidé de diagnostics médicaux incorrects ou même suggérant des transplantations mortelles. Ces algorithmes établissent souvent une discrimination en croisant les données sur les conditions préalables, l'origine ethnique, le sexe, l'âge et même le statut de classe [8].
Ces sombres conséquences peuvent se produire parce que l'utilisation de ces dispositifs médicaux et le traitement des données recueillies doivent encore être réglementés et protégés. De nos jours, les données médicales sont encore vendues et transférées à des entités commerciales sans contrôle public et sans le consentement des patients. Dans le même temps, l'intelligence artificielle et la vision par ordinateur d'aujourd'hui permettent de prendre des décisions sur notre santé sans transparence ni responsabilité, tout en renvoyant la responsabilité aux machines et non aux créateurs de la technologie et à ceux qui décident de l'utiliser.
L'installation ludique
Bodily imite des algorithmes biaisés et défectueux qui peuvent décider de la vie des patients, juger des émotions et profiler le corps des individus. Dans l'installation, les algorithmes de diagnostic fonctionnent comme des machines à sous qui déterminent le sort d'un patient.
Avec cette œuvre d'art, les dangers des scanners corporels sont exposés, montrant comment la science de la température de nos organes à l'aide de caméras thermiques peut finalement être mal utilisée dans la société et trompée en médecine. Grâce à l'ironie subtile des machines à sous, un algorithme imparfait juge les conditions corporelles et déduit les tempéraments des participants qui se tiennent devant l'installation interactive. Le diagnostic basé sur la pseudo-science des sensations de la carte corporelle est projeté sur un moniteur avec des graphiques ironiques qui recouvrent la vidéo en direct de la caméra thermique.
Comme un miroir, l'installation vidéo utilise les couleurs comme éléments clés pour voir de façon unique les images thermiques de ses spectateurs et faire de ses couleurs thermiques spontanées les éléments interactifs essentiels. Les couleurs vives de la caméra thermique sont devenues à la fois l'esthétique de l'œuvre d'art et son élément central du concept social. L'œuvre d'art
Bodily montre comment les couleurs de la température corporelle en vision par ordinateur peuvent avoir une signification politique en matière de discrimination, de surveillance et de réglementation de la technologie.
Text by Paolo Cirio, 2020.
Footnotes:
[1] Thermal Imaging to Diagnose Disease”, W. Hardin, Association Vision Information, August 2018:
https://visiononline.org/vision-resources-details.cfm/vision-resources/Thermal-Imaging-to-Diagnose-Disease/content_id/6938
[2] A.C.L.U. Warns Against Fever-Screening Tools for Coronavirus”, N. Singer, The New York Times, May 2020:
https://www.nytimes.com/2020/05/19/health/coronavirus-aclu-fever.html
[3] Thermal expression of intersubjectivity”, A. Merla, Frontiers Psychology, July 2014:
https://www.frontiersin.org/articles/10.3389/fpsyg.2014.00802/full
[4] Ban Biometric Mass Surveillance”, EDRi European Digital Rights, May 2020:
https://edri.org/wp-content/uploads/2020/05/Paper-Ban-Biometric-Mass-Surveillance.pdf
[5] Health Care AI Systems Are Biased”, A. Kaushal, R. Altman, C. Langlotz, Scientific American, November 2020:
https://www.scientificamerican.com/article/health-care-ai-systems-are-biased/
[6] Maps of subjective feelings”, L Nummenmaa, R. Hari, J.K. Hietanen, E. Glerean, PNAS, September 2018:
https://www.pnas.org/content/115/37/9198
[7] Humourism, Wikipedia:
https://en.wikipedia.org/wiki/Humorism
[8] “How an Algorithm Blocked Kidney Transplants to Black Patients” , T. Simonite, Wired, October 2020:
https://www.wired.com/story/how-algorithm-blocked-kidney-transplants-black-patients/
