Deux livres engagés pour les vacances !
La période estivale pointe le bout de son nez avec en parallèle un semblant de détente du côté des restrictions sanitaires. L’envie (ou le besoin) de faire une vraie pause ici ou ailleurs se fait de plus en plus sentir. Et quoi de mieux pour l’esprit que de dévorer quelques bons bouquins ?
Nous vous proposons ici deux livres passionnants portant sur les sujets habituellement portés par itopie, et en particulier sur les effets sociaux et environnementaux du numérique. Rassurez-vous, ces livres ne se limitent pas à constater une situation plus qu’inquiétante ! Ils proposent de nombreuses pistes et solutions pour tenter de sortir du fossé technologique dans lequel nos sociétés s’enfoncent aveuglément. Certes, il ne s’agit pas d’un polar haletant, d’une fiction fantastique ou d’un récit de voyage palpitant. Nous sommes bien dans la réalité concrète et parfois anxiogène, il faut l’admettre. Confrontons-nous à ces problèmes ! C’est la seule solution pour que nous puissions développer un état d’esprit, des compétences et des solutions pour un avenir moins sombre.
Technologies partout, démocratie nulle part
Plaidoyer pour que les choix technologiques deviennent l’affaire de tous
Yaël Benayoun Irénée Régnauld
FYP Editions 2020
Le livre fait le constat que de plus en plus, les grands choix technologiques ne sont pas discutables et sont pris par des instances non-démocratiques. Nous sommes face à une alliance parfois contre-nature entre des géants privés de la technologie et des organisations publiques, élues démocratiquement, mais qui valident les technologies sans donner la possibilité à la population de se positionner.
Souvent, pour faire passer la pilule, on arrondit les angles ou on verdit l’emballage, mais la décision de diffuser telle ou telle technologie, est en fait déjà prise. On peut penser à la 5G, à l’e-administration, à la voiture autonome, ou à l’intelligence artificielle. Ce qui me permet de faire le lien avec le premier livre ci-dessus. La nécessaire déclaration de Montréal ne remet pas en cause le développement de l’intelligence artificielle, elle l’encadre pour qu’elle se développe de manière responsable. Mais personne n’a la possibilité de simplement s’opposer à un développement de l’intelligence artificielle quel qu’il soit.
Les auteurs commencent par un historique des technologies. Ils observent notamment un glissement sémantique entre le progrès, la technologie et finalement l’innovation. Auparavant, on pouvait imaginer différentes sortes de progrès, sanitaires, politiques, sociaux, humains et technologiques. Mais les autres facettes du progrès se sont petit à petit estompées. Il semble ainsi que la seule innovation qui vaille la peine, c’est forcément une innovation technologique, donc quelque chose de nouveau et reposant très souvent sur du numérique. On parle bien de la numérisation de la société, comme s’il n’y avait pas d’autres planches de salut.
D’une part, ce n’est pas la seule piste existante, et d’autre part, on doit s’interroger sur la durabilité d’une telle option. Il faut rappeler que le numérique consomme des quantités astronomiques de ressources naturelles et d’énergie, avec un taux de recyclage extrêmement faible. Mais le plus inquiétant est que la question du besoin n’est même pas évoquée. Par le fait qu’une technologie est possible, il faut la développer, même si ses bénéfices (environnementaux, sociaux) sont bien inférieurs aux problèmes qu’elle génère.
Les auteurs expliquent notamment pourquoi toute opposition à l’avènement de cette société numérique est rendue impossible. Ils évoquent notamment plusieurs idées reçues (donc fausses) :
- La technologie est neutre (il y a toujours une intention).
- On n’arrête pas le progrès (de peur de manquer quelque chose).
- Il faut rattraper notre retard (vis-à-vis des autres qui seraient en avance sur nous).
- Il n’y a que deux positions possibles : les technophiles et les technophobes (vision binaire des avis de chacun·e).
Cet excellent livre parle de problématiques complexes, mais les aborde de manière tout à fait compréhensible, en se basant sur des études scientifiques concrètes et pertinentes. Il entre sans aucun problème dans le peloton de tête des meilleures livres que j’ai lus ces dernières années sur la critique de la technologie.
« L’urgence climatique, l’uberisation, l’économie des petits boulots, les smart cities et la surveillance algorithmique nous ont brutalement fait prendre conscience des répercussions dramatiques des technologies.
Alors que le progrès était censé servir le bien commun, il nous échappe.
Nous le subissons. Malgré cela la réponse apportée à tous les problèmes économiques et sociaux se borne à des solutions purement techniques.
Irénée Régnauld et Yaël Benayoun révèlent et dénoncent les dogmes et les manœuvres qui permettent aux industries et aux pouvoirs publics de maintenir les citoyens et les travailleurs à l’écart des choix technologiques, en excluant tout processus démocratique. Ils montrent que notre arsenal juridique et nos institutions apeurées, voire serviles, sont incapables de contrer les servitudes imposées par les plateformes et les industries hyper capitalistes.
Pour sortir de cette confiscation du progrès, les auteurs proposent des actions concrètes et réalistes qui replacent le débat démocratique et les revendications citoyennes au cœur du développement technologique, afin que la question du progrès devienne l’affaire de tous. »
(Avec une bibliographie importante)
Vers un numérique responsable
Repensons notre dépendance aux technologies digitales
De Vincent Courboulay, aux éditions Actes Sud (Domaine du possible).
Pour représenter le numérique, l’auteur évoque d’emblée le dieu romain Janus, une entité à deux visages, avec une face tournée vers le passé et l’autre vers l’avenir. Il s’agit là de symboliser les deux faces du numérique, l’une séduisante, irrésistible, passionnante, efficace, porteuse d’espoir, puissante comme un dieu, et de l’autre, plus sombre, celle de la fuite en avant, du consumérisme, du gaspillage, de la perte des valeurs, de l’abrutissement, de la dépendance et de l’épuisement des ressources naturelles.
Dans ce livre à l’esprit scientifique mais bien vulgarisé, on commence par de l’histoire pour mieux comprendre où nous nous trouvons actuellement. Finalement, le numérique est une évolution de l’automatisation qui a commencé il y a plusieurs siècles. Mais cette évolution s’accélère de sorte que nous n’avons plus le temps de digérer ces changements au niveau sociétal.
On nous rappelle ensuite que le monde numérique n’est pas si dématérialisé que cela. Toute l’infrastructure permettant de voir une vidéo, envoyer un courriel ou lancer une visio conférence, nécessite une quantité faramineuse de ressources naturelles extraites du sol ainsi que d’énergie. Les appareils ainsi créés sont rendus rapidement obsolètes et se révèlent fort peu recyclables. Et cela sans compter les conditions sociales souvent atroces des travalleur·euse·s impliqué·e·s dans la fabrication (en particulier en Afrique et en Asie). Des initiatives institutionnelles ont été mises en place, mais elles se révèlent souvent largement insuffisantes.
L’auteur met ensuite le doigt sur l’e-sclavage moderne (les travailleurs du clic) et l’économie indigne des plateformes. Il enchaîne sur les dangers des monnaies cryptographiques, poursuit par l’insoutenable capitalisme de surveillance et termine par des conseils pratiques pour que chacun·e puisse s’engager à son niveau dans un numérique plus responsable.
Un regard particulièrement critique est posé sur ce qui est incorrectement appelé intelligence artificielle. Tous les acteurs, institutionnels et privés, s’activent pour proposer des régulations du domaine. Quand Google ou Microsoft s’attellent à la tâche, on peut s’attendre à des règles plutôt consensuelles et peu contraignantes (appelé parfois TechForGoodWashing, par analogie au GreenWashing dans le domaine environnemental), destinées à rassurer le grand public et à permettre un développement accéléré du secteur en limitant les garde-fous. Nous sommes cependant très loin des trois (ou quatre) lois de la robotique d’Asimov, proposées dans ses romans pour réguler l’ensemble des acteurs et viser la protection de l’humanité (lois qui restent largement imparfaites).
L’auteur mentionne en outre les 10 principes de la déclaration de Montréal, une charte destinée justement à poser une fondation éthique, pour le développement de l’intelligence artificielle. Les voici résumés :
- Principe de bien-être
- Principe de respect de l’autonomie
- Principe de protection de l’intimité et de la vie privée
- Principe de solidarité
- Principe de participation démocratique
- Principe d’équité
- Principe d’inclusion et de diversité
- Principe de prudence
- Principe de responsabilité
- Principe de développement soutenable
Dans le cas d’armes autonomes, les algorithmes de prises de décisions de tuer seraient ainsi confrontés en priorité aux principes 8 et 9. Peut-on pour autant accepter ces systèmes ? Et quelque soit le système soit-disant intelligent, s’il est produit et vendu en masse, il se heurterait au principe 10, dans le sens où la prolifération de systèmes numériques, quels qu’ils soient, n’est matériellement pas soutenable.
Cette déclaration est sans doute fondamentale. Il reste à savoir comment les États ou les institutions supra-nationales pourront encadrer les développements de l’intelligence artificielle dans le respect de cette déclaration, ce qui n’est de loin pas gagné.