Oppression numérique : comment résister ?
La déferlante numérique (IA, numérisation de tous les pans de la société, nouveaux services en ligne indispensables…) n’en finit pas d’accroître sa vitesse et son amplitude, de telle sorte qu’elle nous prive de toute réflexion « à tête reposée ». En effet, l’être humain a besoin de temps pour digérer les changements et a fortiori, des changements de rupture comme ceux qui se succèdent semaines après semaines. Nous restons bouche bée de sidération, spectateur·trice·s, incapables de réagir.
Mais il n’est justement pas question de prendre (perdre ?) du temps. Le mantra dominant, c’est plutôt d’adhérer à ces changements sans les questionner et de foncer tête baissée dans une société fantasmée et subie. Une société qui par ailleurs risque fort de ne pas ressembler aux images d’Épinal véhiculées par les géants de la Tech. Les limites planétaires, « cailloux dans la chaussure » des futurologues, sont en général balayées d’un revers de main comme si elles n’existaient pas.
Qui n’a pas entendu « on ne peut rien faire pour s’y opposer, c’est un raz de marée » ou « il faut composer avec ces nouvelles technologies sinon, on va être dépassé » ? Nous n’aurions donc pas le choix ? N’est-ce pas justement le propre de la démocratie que de pouvoir débattre collectivement d’une direction voulue pour nos sociétés ? Avons-nous le droit de rejeter des « innovations » finalement toxiques pour la communauté ?
Les IA, ou comme on préfère les appeler à itopie, les systèmes numériques anthropomorphes, contribuent fortement à nous retirer toute forme d’esprit critique ou d’analyse, étant donné notre propension à déléguer de plus en plus ces tâches primordiales à des machines. L’argument « massue » le plus souvent invoqué pour justifier une telle décision, c’est l’efficacité, soit la rapidité à atteindre un but. Dans la société-marché dans laquelle nous évoluons, c’est finalement assez logique que la productivité prime, y compris à l’État, dans l’enseignement ou la recherche académique.
Face à un défi complexe, l’essentiel n’est pas toujours de le relever, mais plutôt de vivre le voyage menant à son accomplissement. En d’autres termes, ce qui nous procure de l’enrichissement, des expériences, une consolidation de nos compétences et surtout du sens, ce n’est pas simplement d’obtenir le résultat, mais bien tout le processus qui aboutit au but, semé d’embûches, d’hésitations, d’erreurs et de succès.
Les IA (et en particulier les IA génératives) agissent finalement comme un produit dopant, nous permettant d’atteindre des objectifs, rapidement et parfois avec un vernis qualitatif stupéfiant, et en prime une reconnaissance sociale d’efficacité, mais pour autant sans forcément disposer des compétences requises. Que penser des capacités essentielles qui ne seront plus mobilisées, soit dit autrement, qui seront de facto abandonnées à des machines dont le fonctionnement échappe souvent à leurs concepteurs, ou dont les résultats peuvent être orientés politiquement ?
Ces sujets ont été discutés et débattus au sein d’itopie dans le cadre de l’élaboration collective du manifeste pour un numérique durable à visage humain.
Afin de nourrir notre compréhension de cette problématique, nous lisons de nombreux auteurs, scientifiques ou littéraires qui embrassent ces sujets complexes et les analysent à la lumière de leurs spécialités. Olivier Hamant est l’un d’entre eux/elles.
Olivier Hamant, né en , est un chercheur français en biologie et biophysique. Il s’inspire de ses travaux pour prôner un modèle de société qui s’inspire du vivant, et dont les principes soient en conséquence guidés par la recherche de la robustesse plutôt que par celle de la performance. Source : Wikipedia.
Conseil de lecture de cet auteur : Antidote au culte de la performance, aux éditions Gallimard (Tracts N°50).
Il ne mâche en général pas ses mots. Voici ce qu’il dit ci-dessous à propos des IA dans un commentaire sur le réseau social Linkedin (hélas, dominant et fort peu éthique). Source : lien (mais il faut que vous soyez connecté).
Ringardiser la performance N°29
L’intelligence artificielle est-elle une menace? En hybridant des idées lointaines, l’IA peut être vue comme une source de sérendipité, et donc une aide à la créativité. A part cet aspect plutôt fertile, les arguments sur les dangers de l’IA sont nombreux.
- Son nom d’abord: « intelligence ». Comme les technologies « smart » (smart fridge, smart cities, etc.), une certaine idéologie de la performance a confisqué la notion d’intelligence: « Etre intelligent = être efficace ». Je n’ai pas besoin ici de répéter qu’être efficace, c’est atteindre son objectif, et donc rater tous les autres, selon l’adage zen. Une extrême fragilité au moment où le monde devient instable (du climat à la géopolitique)
- Son qualificatif ensuite: « artificielle » qui cette fois confisque la notion d’art, alors que les technologies de l’IA ne sont basées que sur des méthodes de corrélation statistique, très loin de l’approche sensible donc. L’IA est plus proche d’un sondage que de l’élaboration sincère, pressante ou joyeuse d’une symphonie. Avec l’IA, on ne voit que le produit, on perd le bonheur du chemin. L’IA réduit l’art à un automatisme et nous déshumanise. Rappelons que l’IA n’a pas de corps, et que nos relations au monde passent d’abord par notre corps, et non par du calcul.
- Son caractère invasif: L’ « alien » déferlant que nous attendions de Mars est finalement venu… de la Silicon valley (qui a aussi des projets pour Mars, en toute cohérence donc). Comme le dit Yuval Noah Harari, l’IA est devenue le premier éditeur de contenu au monde. C’est l’IA qui choisira la suite de vos contenus sur Google ou sur Youtube, et donc par ricochet, vos idées, vos choix politiques, vos activités. L’IA est d’abord au service d’une hégémonie culturelle de l’optimisation (en auto-amplification, étant elle-même le produit de l’optimisation)
- Son caractère totalitaire, enfin: abus sémantique, déshumanisation et hégémonie culturelle sont toutes au service d’un projet totalitaire, où l’injonction de performance passe avant la vie, et sa robustesse plurielle.
Comment lutter? Certains diront qu’il faut débrancher, d’autres diront qu’il faut réglementer, d’autres enfin parleront de question politique majeure.
Au fond, l’IA est surtout un symptôme. C’est notre obsession pour la performance qui pose problème! L’IA est mortifère dans sa formidable dépendance aux matières, à l’énergie, à l’eau… Nous augmentons notre confort à court terme (performance augmentée), en multipliant les béquilles algorithmiques, pour mieux condamner notre avenir (robustesse diminuée). L’IA est surtout mortifère parce qu’elle nous enferre dans l’idéologie du contrôle et de la performance, qui produit surtout de la fragilité et du burnout (des humains et des écosystèmes).
Comment lutter? A nous les humains de proposer une contre-hégémonie culturelle, plurielle et reliée au vivant… Un premier pas: Ringardiser le culte de la performance!
Si l’argumentaire est convaincant et recoupe d’autres publications scientifiques, le conseil à la fin reste finalement peu opérationnel. Ce qu’on peut faire en revanche, c’est continuer à s’informer, critiquer les sources, se remettre en cause, en discuter avec notre cercle de connaissances, que nos interlocuteur·trice·s soient d’ailleurs favorables ou opposé·e·s à nos idées. Il s’agit d’enrichir notre libre arbitre et ensuite de changer progressivement notre style de vie pour être plus en phase avec nos convictions.
Dans le cas présent, il ne s’agit pas de renoncer au numérique, mais plutôt de réduire notre suréquipement, notre exposition aux écrans, questionner nos besoins réels, adopter des solutions analogiques ou Low Tech, favoriser des solutions réparables facilement, renoncer aux systèmes prédateurs des grandes plateformes, accepter de prendre plus de temps pour réaliser une tâche donnée – avec moins de numérique, etc. Enfin, il ne faut pas rester seuls, mais se regrouper et s’organiser pour défendre ces valeurs bien plus soutenables qu’une performance Hi Tech et débridée.
Bref, des solutions concrètes pour réduire notre performance brute et augmenter notre robustesse nette !
Autre piste, s’intéresser aux publications de cette très pertinente association française, Lève les yeux.
- Bulletin de nouvelles de janvier (avec de nombreuses idées de lectures).
- Bulletin de nouvelles de février (avec une posture toute particulière vis-à-vis du nouveau pouvoir étasunien).
Voici une citation éclairante tirée du livre mentionné dans le bulletin précédent : « L’homme diminué par l’IA » de Marius Bertolucci. Une citation qui fait écho aux travaux d’Olivier Hamant cités plus haut.
Face à la perte d’autonomie et de dignité, et la sujétion au pouvoir des algorithmes, l’humain en 2025 doit vraisemblablement apprendre à déconnecter s’il veut préserver ce qui constitue son essence. Comme souvent dans la lecture d’essais, on peine toutefois à trouver des sources d’espoir, ou des modalités de résistance. L’indispensable rapport de force avec les multinationales – ici du numérique – et la mobilisation de la société civile, notamment de l’Association française contre l’intelligence artificielle (AFCIA), auraient sans doute mérité d’être mentionnés.
Mais ces quelques mots d’alerte, extraits du visionnaire Albert Camus dans l’Homme révolté, valent sans doute mieux que bien des programmes politiques : « Faute de valeur supérieure qui oriente l’action, on se dirigera dans le sens de l’efficacité immédiate. Rien n’étant ni vrai ni faux, bon ou mauvais, la règle sera de se montrer le plus efficace, c’est-à-dire le plus fort. Le monde alors ne sera plus partagé entre justes et injustes, mais entre maîtres et esclaves » (p. 224).
Toujours dans le même sujet, nous terminerons cet article par l’interview d’Eric Sadin, philosophe et technocritique depuis de longues années, sur les ondes de la RTS le 12 février 2025.