Face à l’IA générative, l’objection de conscience
L’Atelier d’Ecologie Politique de Toulouse, ATECOPOL, propose un manifeste pour revendiquer une posture d’objection de conscience face au déploiement des technologies d’IA générative (IAg) dans les institutions de recherche et d’enseignement supérieur.
Ce manifeste est le fruit d’une magnifique réflexion sur les enjeux et risques sociotechniques engendrés par le développement démesuré des technologies d’intelligence artificielle générative. S’il s’adresse en particulier au monde de l’enseignement et de la recherche française, il est tout à fait généralisable à d’autres secteurs et sociétés.
Les autrices et auteurs de ce manifeste insistent pour cibler en particulier l’intelligence artificielle générative et pas forcément toutes technologiques d’intelligence artificielle, qui n’impliquent pas obligatoirement les mêmes risques et impacts. Cela démontre par ailleurs leur volonté de traiter un sujet pour le moins complexe avec intelligence (humaine) et une grande précision.
itopie recommande à sa communauté et aux lectrices et lecteurs du site de lire ce manifeste pour s’en faire un avis propre et personnel.
Cette initiative se révèle totalement compatible et complémentaire avec notre propre « Manifeste pour un numérique durable à visage humain » , que nous avions collectivement conçu en 2023 et validé en 2024. Le manifeste d’itopie détaille factuellement la position de la coopérative, avec 5 lignes rouges à ne pas franchir, tandis que le manifeste de l’ATECOPOL se concentre sur la promotion d’une action individuelle, à savoir l’objection de conscience, mais fondamentalement, les deux disent globalement la même chose : aussi fantastique que puisse être l’IAg quant à ses capacités démiurgiques, elle reste totalement incompatible avec les limites planétaires et représente un danger civilisationnel pour la démocratie, le libre arbitre et plus globalement la culture humaine.
Nous faisons face à toute une série de biais cognitifs bien connus des scientifiques, en particulier celui qui nous fait croire à l’inéluctabilité d’un phénomène (l’avènement de l’IAg dans toutes nos activités) ou celui qui nous empêche de voir les dangers et risques globaux à moyen terme (risques environnementaux, consommation gargantuesque d’énergie, prolétarisation de populations, pillage des ressources naturelles,…) sous prétexte que les avantages individuels immédiats sont irrésistibles (efficacité, performance, rester dans le coup, vivre avec son temps,…).
Malheureusement, la physique est têtue et ces comportements collectifs irrationnels s’apparentent beaucoup à une fuite en avant consciente mais irrépressible. Un peu comme la personne qui chute d’un immeuble de 20 étages et qui se dit lorsqu’il passe au 4ème étage : « jusqu’ici, tout va bien »…
L’ACTECOPOL s’est aussi intéressé aux arguments massues en faveur des IAg. Il est vrai que parfois, ces arguments peuvent nous laisser sans voix, tellement ils perturbent notre raisonnement. Exemple d’arguments en faveur des IAg, combattus par le collectif :
- Oui, mais l’IAg “souveraine”, développée en France/Suisse/autre pays, en local…
- Oui, mais pour tel ou tel usage, l’IAg c’est tout de même bien pratique…
- Oui, mais avoir peur de l’IAg, c’est comme avoir peur de l’imprimerie, de la calculatrice, etc…
- Oui, mais si on ne se met pas à l’IAg, nous perdrons en compétitivité…
- Oui, mais de toute façon, la diffusion des IAg est inéluctable…
- …
Si l’IAg vous dérange ou vous déprime, comme ses promoteurs adeptes du solutionnisme technologique, lisez cette FAQ de contre-arguments, et vous pourrez tenir tête au plus convaincu de ses défenseurs !
