Rosemary Lee, Symbiotic Sound (2017). Installation. Photo: © Rosemary Lee
À l’occasion de la fin d’un cycle du réseau Feral Labs – un programme de coopération Creative Europe cofinancé par l’Union européenne (2019-2021) – et de la sortie de la publication « Feral Labs Node Book #1 : Rewilding Culture », Rosemary Lee propose un essai sur la résilience comme approche critique de la technologie.
Cet essai examine comment l’approche du thème de la résilience à partir d’une perspective critique de la technologie offre un aperçu de la capacité de la technologie à répondre à la complexité du monde. Cette perspective aborde le fait que la technologie tend à révéler certaines subtilités du monde, par exemple en apportant des solutions à un problème tout en provoquant une foule d’effets secondaires difficiles à prévoir, de dilemmes éthiques et de conséquences involontaires. Et si les perspectives critiques sur la technologie peuvent offrir des aperçus cruciaux et des objections diverses, le discours entourant la technologie montre une tendance à rationaliser des questions très complexes dans un contraste tout noir ou tout blanc. Cette tendance à la simplification excessive ne rend justice ni à la compréhension des subtilités que les technologies impliquent généralement, ni à l’intention d’évaluer les défauts potentiels qui peuvent découler de l’utilisation d’une technologie donnée. Proposer le thème de la résilience comme perspective permettant d’aborder la technologie sous un angle critique vise à aborder les contextes imprévisibles, complexes et hétérogènes auxquels répondent l’art, le design et la technologie axés sur la critique.
Résilience dans le design
Le mot « résilience » implique l’endurance nécessaire pour résister et surmonter les défis et les obstacles qui se présentent, non seulement à court terme mais aussi à long terme. Il faut pour cela trouver un équilibre entre spécificité et généralité, car les qualités qui font qu’un produit est particulièrement adapté à un objectif ou à un contexte donné ne seront pas nécessairement utiles si ces conditions venaient à changer. Pour illustrer la manière dont la conception peut répondre aux défis spécifiques posés par les situations du monde réel, il peut être utile d’y réfléchir en termes d’outils simples. Par exemple, les possibilités d’un appareil peuvent le rendre particulièrement adapté à l’exécution d’une tâche ou d’une série de tâches précises qu’il est censé accomplir.
Un ouvre-boîte, par exemple, est bien adapté à l’ouverture des boîtes de conserve, mais il n’est pas particulièrement utile pour l’exécution d’autres tâches. À la différence de l’ouvre-boîte, un outil plus polyvalent, tel qu’un couteau de poche, possède un éventail plus large de possibilités, dont celle d’ouvrir des boîtes de conserve, bien qu’il puisse être plus difficile d’ouvrir une boîte avec un couteau de poche qu’avec un ouvre-boîte. Les circonstances peuvent faire en sorte que l’un de ces outils soit plus adapté que l’autre, mais en cas d’incertitude quant aux besoins potentiels, le couteau de poche serait probablement un meilleur choix d’outil pour une « île déserte », car il laisse plus d’options ouvertes. Cet exemple simple montre comment la spécificité relative d’un outil peut répondre à l’incertitude du monde, et comment ces conditions déterminent à leur tour les aspects pertinents de notre perception d’un outil donné.
L’extension de cette idée à la technologie permet de réfléchir à la manière dont certaines technologies ou solutions de conception peuvent offrir une plus grande capacité de résilience, en apportant des solutions potentielles à divers problèmes dans un monde en mutation. Considérer cette énigme, à savoir que la conception de la technologie doit répondre à un monde en mutation, nous permet de reconnaître que les technologies ne fournissent pas uniquement des solutions. Elles ont également la capacité d’apporter avec elles leur propre série de défis, voire de créer de nouveaux problèmes dans le processus de résolution des autres. Et il est possible, voire courant, qu’une technologie donnée ait un potentiel très diversifié au-delà des paramètres de sa conception initiale, car les ramifications éventuelles de la technologie ne sont pas nécessairement prédéfinies, ni gravées dans la pierre au stade de la conception.
Si certaines technologies ont des fondements éthiques douteux dès leur conception, cela ne les entache pas de manière indélébile. D’autre part, les bonnes intentions ne garantissent pas des résultats favorables. Même les technologies construites avec des objectifs présumés vertueux peuvent avoir des résultats désastreux, bien qu’involontaires. Comme le souligne Don Ihde (1), la technologie a le potentiel d’imposer sa propre interprétation, son intentionnalité et son influence sur la situation, le processus ou le contexte auquel elle est appliquée. Il est donc important de comprendre la technologie comme non neutre et éthiquement mutable, encline à changer en fonction de la variabilité des contextes dans lesquels elle est conçue et appliquée.
En m’appuyant sur mes propres recherches sur la présence croissante du Machine Learning (ML) – et plus généralement de l’intelligence artificielle – dans les médias et dans le discours sur la technologie (2), je constate que l’importance d’adopter une position critique à l’égard de la technologie est soulignée par une tendance historique à traiter ces approches comme beaucoup plus simples qu’elles ne le sont en réalité. Il ne s’agit que d’un domaine parmi les nombreuses questions relatives au rôle de la technologie, à l’heure actuelle, mais le fait d’être plus spécifique, plutôt que de parler de la technologie uniquement en termes généraux, nous permet de mieux examiner ce qui est en jeu dans un tel discours. Cela nous permet également de décortiquer certains aspects de la manière dont diverses idées et influences historiques peuvent être transportées avec une technologie particulière, intentionnellement ou non.
Le Machine Learning est un bon exemple de la mutabilité éthique de la technologie, et il est particulièrement pertinent actuellement, en raison de son influence croissante en tant qu’approche dans divers contextes, de sa capacité à capter l’imagination populaire, et parce qu’il est particulièrement emblématique de la façon dont les discussions sur la technologie ont tendance à être polarisées. Le ML peut, d’une part, offrir le potentiel de nouvelles solutions aux problèmes, mais il s’est également avéré capable de créer de nouveaux problèmes, avec un grand potentiel de biais, d’erreur et de manipulation. Le ML a permis de vendre et d’utiliser les données personnelles d’innombrables personnes pour concevoir de nouvelles formes de médias hautement manipulatrices et invasives.
Il a été utilisée pour traquer, contraindre et réifier le comportement humain de manière inédite et à une échelle sans précédent. Il a également été prouvé que le ML reproduisait et même accentuait les préjugés existants et les déséquilibres de pouvoir, comme dans les nombreux cas où les systèmes de ML ont montré des tendances aux préjugés raciaux et de genre (3). Contrairement à ces problèmes, le ML peut également être utilisé pour des applications plus prometteuses, telles que le développement de nouveaux outils et méthodes de diagnostic médical (4), la gestion des quantités massives de données auxquelles nous sommes confrontés quotidiennement, ou la création artistique.
Loin d’être clairs, les avantages, les limites et les inconvénients des explorations actuelles du ML montrent comment de subtiles différences d’approche, de méthode ou de contexte peuvent avoir des résultats radicalement différents. Le potentiel positif du ML n’annule certainement pas sa capacité de nuisance, comme c’est le cas pour la technologie en général. Au lieu de rejeter le ML sans discernement comme étant intrinsèquement nuisible ou de le saluer comme étant la réponse à de nombreux problèmes dans le monde, il est important d’examiner de près ses défauts et son potentiel de nuisance par rapport à ses compétences et à ses avantages potentiels. Si l’on ne tient pas suffisamment compte des subtilités de la technologie, on risque d’être pris au dépourvu par elle.
Le ML est également intéressant pour cette exploration de la résilience en raison de ses liens historiques avec d’autres domaines et leurs réseaux complexes d’idées associées. Il est maintenant situé dans le domaine plus large de l’intelligence artificielle, qui a elle-même émergé de la cybernétique. Ces origines historiques continuent à influencer le développement de ce domaine de recherche, que ces liens soient ouvertement reconnus ou non. L’approche de la cybernétique implique la comparaison de divers types de systèmes, biologiques, écologiques ou techniques, dans le but de tirer des enseignements de leurs parallèles et de leurs différences. La comparaison du cerveau humain et d’un ordinateur numérique, par exemple, nous permet d’envisager les fonctions connexes de chacun d’entre eux sous un angle nouveau.
Malgré les avantages que les perspectives cybernétiques offrent aux explorations interdisciplinaires, des hypothèses problématiques issues des débuts de l’histoire de la recherche cybernétique continuent d’influencer des approches telles que le ML et l’Intelligence Artificielle, qui sont apparues dans son sillage. Par exemple, le corps humain et le travail sont généralement instrumentalisés dans les vues cybernétiques, où les individus sont traités comme remplaçables, interchangeables, comme des rouages dans un mécanisme plus large. Les technologies issues de la cybernétique croient aussi souvent en l’impartialité des processus techniques, ce qui contraste directement avec la preuve courante d’erreur, de partialité et de potentiel de manipulation qu’impliquent les approches algorithmiques. Ces questions reflètent des visions du monde courantes à l’époque du développement de la cybernétique, au milieu du 20e siècle, qui sont aujourd’hui dépassées, mais qui échappent souvent à un examen direct, car elles sont ancrées dans les approches de la technologie et en sont donc difficiles à distinguer.
Pourtant, alors que l’histoire trouble de la cybernétique continue de hanter le ML, l’Intelligence Artificielle et les récits qui les entourent, on peut gagner beaucoup à considérer la technologie à partir de perspectives influencées par la cybernétique. Penser la technologie en termes de systèmes hétérogènes et en termes d’écologie est certainement utile pour comprendre sa complexité. Comme la technologie n’existe pas et ne fonctionne pas dans le vide, les facteurs contextuels sont très importants et nécessitent souvent une vision globale pour être pleinement compris. Nous pouvons ainsi considérer comment les technologies participent à un écosystème médiatique composé de divers éléments et processus. Au lieu de se focaliser uniquement sur la finalité de la technologie ou sur ses effets réels sur un milieu donné, il est possible de les considérer ensemble pour développer une vision plus globale.
La pertinence actuelle de la résilience
Aborder le thème de la résilience semble actuellement impossible sans aborder également le contexte mondial actuel auquel nous sommes confrontés. La « résilience » est un mot qui traduit bien l’esprit de l’année 2020, mais qui évoque aussi des problèmes qui posent des défis durables à la société à grande échelle. Attirer l’attention sur cette idée, c’est aussi rappeler à quel point le monde globalisé est interconnecté. Cela signifie que non seulement chaque individu a un impact sur le monde dans son ensemble, mais qu’il est également, dans une certaine mesure, responsable de ce monde. Non seulement nous résidons ici, mais nous façonnons le monde par notre présence.
En 2020, plusieurs facteurs ont mis en évidence des failles qui n’étaient pas nécessairement visibles auparavant : dans les systèmes, entre les personnes et entre les diverses attentes qui auraient normalement maintenu la stabilité. Pratiquement personne – et aucun domaine de la vie – n’a été épargné par l’impact retentissant de la pandémie. Outre la crise sanitaire mondiale, la division et l’agitation politiques, la propagation virale de fausses informations, l’inégalité financière et sociale croissante et un état d’incertitude quasi permanent ont mis à l’épreuve la résistance des structures construites pour nous permettre d’endurer de telles luttes.
Mais l’année 2020 n’a pas été sans notes positives. Certains ont trouvé du réconfort en ralentissant le rythme. Les gens ont trouvé de nouvelles façons d’être ensemble et d’être séparés. Et pour le meilleur ou pour le pire, le dialogue s’est intensifié sur de nombreuses questions difficiles, qui n’avaient pas été abordées auparavant. Les scientifiques étudient actuellement comment les écosystèmes et les espèces ont pu être affectés de diverses manières par les changements de comportement humain (5). Par exemple, on a spéculé sur l’impact environnemental potentiel de la diminution du trafic aérien. D’autres effets ont également été observés, comme la diminution du nombre d’oiseaux d’une espèce en raison de la présence réduite des humains, ce qui, étonnamment, a rendu les oiseaux plus vulnérables à d’autres prédateurs (6). L’étendue des qualités dynamiques du monde, qui est démontrée par les effets interconnectés de la pandémie, rappelle l’importance des structures qui facilitent la résilience.
La résilience engagée sur le plan technologique
L’examen critique de la technologie offre de nouvelles façons de penser et d’utiliser la technologie d’une manière plus dynamique que les perspectives qui s’attendent à des conclusions simples, en noir et blanc. Il n’est que trop fréquent que le discours sur la technologie traite l’objet d’étude comme s’il était fixe, homogène ou intrinsèquement corrompu. Même les examens prétendument critiques de la technologie ont tendance à se contenter de répéter des affirmations sur une technologie donnée sans mener de véritables recherches pour étayer ces affirmations. Si elles peuvent exprimer des préoccupations et des critiques valables, ces approches ne sont pas aussi substantielles qu’elles le prétendent.
Cette approche commet la grave erreur de ne pas prendre en compte le fait que les technologies ont plutôt tendance à être dynamiques, hétérogènes et fortement soumises à l’influence des contextes et des manières dont elles sont appliquées. En outre, elle impose souvent des généralisations, des hypothèses et des jugements moralisateurs sur les technologies sans examen réel des technologies en question. Pour ces raisons, il est essentiel d’adopter une position critique vis-à-vis de la technologie avec la technologie plutôt que contre elle. Si être « critique » peut sembler, du moins superficiellement, être « anti », ce n’est pas le cas. En fait, pour vraiment comprendre quelque chose, que ce soit d’un point de vue critique ou non, il est nécessaire de l’aborder sans imposer de jugement préconçu sur l’objet d’étude.
Considérer la technologie en termes de résilience – par opposition aux points de vue qui la présentent comme une réponse ou un problème en soi – permet d’explorer davantage les zones grises qui découlent de nombreuses formes de technologie. Aborder les technologies de cette manière nous permet d’évaluer leurs avantages potentiels par rapport aux conséquences qu’elles peuvent entraîner. Ce point de vue préconise de traiter la technologie d’une manière holistique, sensible aux nuances. S’il peut être tentant d’écarter d’emblée certaines technologies en raison des problèmes qu’elles posent, cela reviendrait à négliger la complexité inhérente du monde, en réponse à laquelle ces technologies ont finalement vu le jour. Saisir cet enchevêtrement complexe entre les contextes et les conditions que les technologies proposent d’aborder ou d’améliorer et les effets réels qu’elles engendrent, nous aide à mieux comprendre comment une forme de résilience engagée sur le plan technologique pourrait fonctionner.
Conclusion
Les exemples et les idées présentés ici développent l’idée de la manière dont la technologie peut incarner une sorte de résilience critique, technologiquement engagée. Plutôt que de résoudre purement un problème de conception, la technologie peut être utilisée pour mieux comprendre ce problème et travailler avec lui pour rendre un système plus robuste. Et au lieu de considérer la technologie séparément des divers facteurs contextuels qui la façonnent, nous comprenons combien il est important d’aborder également les aspects situationnels de la technologie. En mettant l’accent sur les perspectives critiques de la technologie, nous répondons au fait que même les inventions ayant un grand potentiel de changement positif peuvent s’avérer nuisibles si elles sont mises en œuvre d’une manière particulière, dans un contexte particulier ou dans une trop grande mesure.
En examinant de près – et de manière critique – les problèmes associés à une technologie ou à une approche technologique particulière, il est possible de développer des outils et des méthodes qui appliquent les avantages qu’elle offre, tout en atténuant les effets secondaires négatifs potentiels qu’elle implique. Comme décrit précédemment, la criticité n’implique pas nécessairement la négation de la technologie. Elle exige plutôt l’adoption d’une approche ouverte aux subtilités du sujet traité. Il serait dangereux de croire que l’on aborde le sujet en terrain neutre. De nombreux facteurs entrent en jeu dans les technologies et les divers contextes qui les entourent, mais les perspectives des praticiens, des utilisateurs et des observateurs imposent également leurs propres contraintes sur la manière dont une technologie donnée fonctionne en réalité. De même que les approches uniques de la technologie tendent à ne pas atteindre les objectifs visés, il est important de reconnaître que des méthodes aussi simples de compréhension de la technologie peuvent également ne pas saisir la complexité des situations réelles qu’elles prétendent aborder.
Cette exploration de la manière dont le thème de la résilience peut offrir des moyens utiles de faire avancer la réflexion sur la technologie cherche à s’engager de manière critique dans la nature multiforme de la technologie et du monde auquel elle répond. La technologie peut faciliter une plus grande résilience face aux défis auxquels nous sommes confrontés, et le concept de résilience assistée par la technologie aide également à comprendre le caractère complexe de la technologie elle-même. L’incarnation d’une résilience engagée sur le plan technologique exige non seulement des solutions aux problèmes les plus immédiats, mais aussi une perspective durable quant à la manière dont ces interventions peuvent se dérouler à long terme. Cela nécessite une adaptabilité, une attention aux nuances et, surtout, un engagement critique vis-à-vis du contexte.
(1) Ihde, Don. ”Program One: Phenomenology of Technics”. In Technology and the Lifeworld: From Garden to Earth, 72–123. Bloomington & Indianapolis: Indiana University Press, 1990.
(2) Lee, Rosemary. “Machine Learning and Notions of the Image”. IT-University of Copenhagen, 2020.
(3) Buolamwini, Joy, and Timnit Grebru. “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”. In Proceedings of Machine Learning Research, 81:1–15, 2018.
(4) Richens, Jonathan G., Ciarán M. Lee, and Saurabh Johri. ”Improving the Accuracy of Medical Diagnosis with Causal Machine Learning”. Nature Communications 11, no. 1 (11 August 2020): 3923.
(5) Rutz, Christian, Matthias-Claudio Loretto, Amanda E. Bates, Sarah C. Davidson, Carlos M. Duarte, Walter Jetz, Mark Johnson, et al. ”COVID-19 Lockdown Allows Researchers to Quantify the Effects of Human Activity on Wildlife”. Nature Ecology & Evolution 4, no. 9 (1 September 2020): 1156–59.
(6) Giaimo, Cara. ‘Covid-19 Kept Tourists Away. Why Did These Seabirds Miss Them?’ New York Times, 22 January 2021, sec. Science.
Traduit de l’anglais original par Makery.
Rosemary Lee est une artiste et une chercheuse en études des médias. Elle vient d’achever son doctorat à l’IT-Université de Copenhague, où elle a étudié l’influence du machine learning sur la pratique artistique et les idées entourant la production d’images.
Le site web de Rosemary Lee
Télécharger la publication: Feral Labs Node Book #1: Rewilding Culture.
Le réseau Feral Labs a été cofinancé (2019-2021) par le programme Creative Europe de l’Union européenne. La coopération a été menée par l’Institut Projekt Atol à Ljubljana (Slovénie) avec la Bioart Society (Helsinki, Finlande), Catch (Helsingor, Danemark), Radiona (Zagreb, Croatie), Schmiede (Hallein, Autriche) et Art2M/Makery (France).
