L’IA, ou le vertige du progrès

À l’île-d’Yeu, la deuxième rencontre de l’association Une île… des auteurs invitait le public à réfléchir aux promesses, aux dangers et surtout aux conséquences d’une révolution technologique qui semble courir plus vite que notre capacité à la comprendre.

Il y avait quelque chose d’assez symbolique à parler d’intelligence artificielle, vendredi 7 août, sur la Prairie de la Citadelle. Loin des laboratoires californiens, des data centers et des salles de marché, un jeune chercheur venait tenter de mettre un peu d’ordre dans une révolution qui semble vouloir nous priver de temps pour réfléchir. Romain Thérézien, doctorant et chercheur en intelligence artificielle à l’Institut Polytechnique de Paris, était l’invité de la deuxième session de « Un Lyeu, une Rencontre », organisée par l’association Une île… des auteurs. Pas de conférence magistrale : une heure de dialogue, de questions et de débats autour d’une interrogation devenue difficile à éviter : que faisons-nous de l’intelligence artificielle ? Et peut-être surtout : que risque-t-elle de faire de nous ?

Trois puissances, trois visions

Pour commencer, Romain Thérézien a replacé l’intelligence artificielle dans un rapport de forces mondial. Les États-Unis disposent aujourd’hui d’une avance considérable, portée par des investissements privés gigantesques et par quelques entreprises capables de mobiliser des moyens informatiques, humains et financiers hors de portée de la plupart des États. Dans la lecture proposée par le chercheur, l’approche américaine est structurée par une logique économique : aller vite, investir massivement, conquérir les marchés. La Chine tente, elle, de contester cette domination, notamment avec le développement de modèles dont les poids sont diffusés plus largement, comme l’a illustré DeepSeek. L’open source ou, plus précisément, l’ouverture de certains modèles constitue alors un moyen de casser le verrou technologique américain.

Mais une technologie peut être ouverte sans que la société qui la produit soit libre. La censure politique chinoise rappelle ainsi qu’un modèle d’IA n’est jamais tout à fait séparé de l’environnement idéologique dans lequel il est développé. L’IA peut donc être biaisée par les données auxquelles elle a accès, mais aussi par ce qu’un pouvoir accepte ou interdit qu’elle dise. Et l’Europe dans tout ça ? Elle semble avoir choisi une autre arme : le droit. L’IA Act, adopté en 2024, constitue le premier grand cadre réglementaire consacré à l’intelligence artificielle. Son but est de classer les systèmes selon leur niveau de risque et d’interdire certaines pratiques considérées comme dangereuses, tout en imposant des obligations de transparence et de contrôle pour les données les plus sensibles. Le calendrier est toutefois progressif : les premières dispositions, notamment sur la culture de l’IA et certaines pratiques interdites, sont applicables depuis février 2025 ; le règlement devient largement applicable à partir du 2 août 2026, avec certaines règles, notamment celles concernant des systèmes à haut risque intégrés à des produits, qui arrivent plus tard: « techniquement, la France est en retard, mais on a la chance de vivre en Europe, car il y a une meilleure gestion de l’IA », estime Romain Thérézien. On pourrait néanmoins objecter que la justice et la réglementation ont souvent un temps de retard sur la technologie. Le droit intervient après l’apparition des usages, après les premiers détournements, parfois après les premiers dégâts. Est- ce que l’Europe saura réglementer suffisamment vite l’IA ?

L’IA n’est pas neutre

C’est probablement l’un des points les plus importants de la rencontre : « nos sociétés restent biaisées principalement par la faiblesse de l’homme », rappelle Romain Thérézien. Une phrase qui mérite d’être développée , car l’intelligence artificielle n’est pas née dans le vide. Elle a été entraînée avec des données produites par des êtres humains et des institutions humaines. Et ces données reflètent des histoires, des habitudes, mais aussi des discriminations et des représentations. L’exemple du recrutement chez Amazon est devenu emblématique. L’entreprise avait développé un outil destiné à évaluer automatiquement des CV. Le système a fini par pénaliser les candidatures féminines, notamment parce qu’il avait été entraîné sur des historiques de recrutements dans lesquels les hommes étaient surreprésentés. Amazon a finalement abandonné cet outil. Dans la justice américaine, le système COMPAS, utilisé pour évaluer le risque de récidive, a lui aussi fait l’objet de critiques retentissantes. Une enquête de ProPublica avait constaté que les prévenus noirs étaient davantage susceptibles d’être classés à tort comme présentant un risque élevé de récidive que les prévenus blancs. Et la reconnaissance faciale a donné lieu à des erreurs encore plus dramatiques. Aux États-Unis, Robert Williams, un homme noir de Detroit, avait été arrêté à tort après qu’un système de reconnaissance faciale eut signalé une correspondance erronée. Ce type d’affaire a contribué à imposer de nouvelles restrictions à l’utilisation de cette technologie par la police.

Eh oui, l’IA peut reproduire, à une vitesse et à une échelle industrielles, des biais (raciste, sexiste…) qui existaient déjà. Les psychologues le savent depuis longtemps : l’être humain n’est pas la créature parfaitement rationnelle qu’il aime imaginer. Nous sélectionnons les informations qui confirment nos croyances, nous sommes influencés par le contexte, par la manière dont une question est posée, par nos émotions, par nos représentations sociales. L’IA ne crée donc pas nécessairement ces biais, mais elle peut les automatiser, ce qui reste fortement problématique.

« Il faut un sursaut intellectuel »

Avec les deepfakes, une photographie, une voix ou une vidéo ne constituent plus nécessairement des preuves de ce que nous croyons voir. Une fausse image d’une explosion près du Pentagone, diffusée sur les réseaux sociaux en mai 2023, a ainsi circulé suffisamment pour provoquer une brève baisse des marchés américains avant d’être démentie. Plus spectaculaire encore : à Hong Kong, un salarié d’une entreprise a été trompé lors d’une visioconférence dans laquelle des fraudeurs avaient recréé par deepfake plusieurs responsables de l’entreprise. Il a effectué des virements représentant plus de 25 millions de dollars. Ce ne sont plus seulement des fausses images. Ce sont des situations fausses. Et c’est pourquoi Romain Thérézien appelle à « un sursaut intellectuel » : apprendre à prendre le recul nécessaire, particulièrement devant les contenus à forte charge émotionnelle. Une photographie qui nous scandalise. Une vidéo qui nous bouleverse. Une information qui confirme exactement ce que nous pensions déjà. C’est dans ces moments-là qu’il faudrait ralentir, vérifier, comparer et douter. Autrement dit, réintroduire de la pensée là où la technologie nous incite à réagir immédiatement.

Le paradoxe du progrès

Pour autant, AlphaFold constitue probablement l’un des meilleurs contre-exemples. Développé par Google DeepMind, le système permet de prédire la structure tridimensionnelle des protéines. Les travaux de Demis Hassabis et John Jumper ont été récompensés par la moitié du prix Nobel de chimie 2024, aux côtés du chercheur David Baker. La base AlphaFold a ensuite rendu disponibles les prédictions de structure de plus de 200 millions de protéines. Dans ce cas, l’IA ne remplace pas le chercheur, mais lui fait tout de même gagner un temps considérable. Elle peut accélérer la recherche médicale, contribuer à la découverte de médicaments, aider à analyser des masses de données qu’aucun cerveau humain ne pourrait examiner seul.

Mais l’histoire nous rappelle que le progrès scientifique n’est jamais intrinsèquement moral: la chimie a donné naissance aux médicaments comme aux armes chimiques; l’aéronautique a rapproché les continents comme elle a industrialisé la guerre; le nucléaire a fourni une énergie nouvelle et une puissance de destruction inédite. L’intelligence artificielle n’échappe pas à cette ambiguïté. Les mêmes capacités de calcul, de reconnaissance et d’optimisation peuvent servir la médecine, la recherche ou la défense. La guerre en Ukraine en fournit déjà un laboratoire brutal : drones, analyse d’images, ciblage, renseignement et systèmes autonomes y occupent une place croissante. Alors, du bien ou du mal, lequel l’emportera ? La question dépasse de loin la technologie. Elle est une fois de plus civilisationnelle.

Une technologie qui consomme aussi des ressources

Autre paradoxe : vouloir accélérer la connaissance grâce à l’IA suppose de construire une infrastructure matérielle gigantesque. Les data centers qui font fonctionner les modèles nécessitent énormément d’électricité et, dans certains cas, de l’eau pour leur refroidissement. Une étude publiée en 2023 estimait que l’entraînement de GPT-3 dans les centres de données américains de Microsoft pouvait directement consommer environ 700 000 litres d’eau douce. Une étude publiée en 2026 estime que l’empreinte hydrique mondiale de l’IA pourrait atteindre 4,2 à 6,6 milliards de mètres cubes par an en 2027. Une requête individuelle peut sembler insignifiante. Mais que devient cette consommation lorsqu’elle est multipliée par des milliards de requêtes, par des millions d’utilisateurs et par des infrastructures toujours plus puissantes ? Quel bénéfice réel tirons-nous du progrès si son coût environnemental finit par en réduire les bénéfices ? À quoi servirait une médecine capable de gagner dix ans d’espérance de vie si, parallèlement, nous rendions notre environnement invivable ?

« À vous de voir »

Nous avons déjà externalisé une partie de notre mémoire dans nos téléphones. Notre orientation dans le GPS. Nos calculs dans les calculatrices. Nos recherches dans Google. Demain, pourquoi ne pas externaliser aussi une partie de notre rédaction, de notre analyse, de notre raisonnement ? L’IA peut nous faire gagner du temps. Mais elle peut aussi nous faire perdre l’habitude de chercher, de formuler, de comparer, de nous tromper et finalement, de penser par nous-mêmes. À propos des conséquences sur les jeunes, Romain renvoie volontiers chacun à ses propres usages : « à vous de voir. » Mais cette réponse laisse peut-être une question en suspens. Est-ce réellement seulement une affaire de choix individuel lorsque toute la société s’organise progressivement autour de ces outils ? Le problème n’est plus seulement la dépendance à une machine. Il touche au libre arbitre dans une société saturée de systèmes qui recommandent, anticipent, classent et suggèrent. C’est ici que les réflexions de François De Smet dans son « Lost Ego«  peuvent trouver un écho : que reste-t-il de notre capacité à nous déterminer lorsque notre environnement numérique anticipe sans cesse nos choix ? L’IA ne nous impose pas forcément une décision. Elle peut se contenter de nous proposer tellement efficacement la prochaine que nous ne prenons plus le temps d’en chercher une autre.

Les emplois : disparition ou transformation ?

Selon Romain Thérézien, les métiers répétitifs et moins qualifiés pourraient être les premiers touchés, mais ils laisseraient place à d’autres activités. Il faudra, dit-il, « accompagner ces gens » dans leur reconversion. L’OCDE considère elle aussi que l’IA pourrait énormément transformer le travail et insiste sur la nécessité de politiques permettant aux travailleurs de bénéficier de ces transformations, tout en limitant les risques. Mais transformer un emploi n’est pas transformer instantanément un salarié. Il faut du temps pour apprendre un nouveau métier. De l’argent pour se former. Des organismes capables de former. Des entreprises prêtes à recruter. Et surtout, il faut savoir à quoi former. Les métiers que l’on nous présente aujourd’hui comme ceux de demain — spécialistes de données, ingénieurs IA, « prompt engineers » et autres nouveaux profils — seront-ils eux-mêmes durables ? La même interrogation vaut pour l’école. Elle devrait être le maillon le plus solide de cette transition. Elle est souvent le plus fragile. Sommes-nous en train de préparer suffisamment les jeunes à un monde où certaines compétences qu’ils apprennent aujourd’hui seront bientôt automatisées ? Donnons-nous aux enseignants les moyens de cette transformation ? Enseignons-nous suffisamment ce qui risque de devenir le plus précieux : l’esprit critique, la capacité à vérifier une information, à argumenter, à comprendre un raisonnement et à savoir quand il faut refuser la réponse toute faite ?

L’intelligence artificielle est-elle vraiment intelligente ?

Une machine qui produit une réponse cohérente comprend-elle ce qu’elle dit ? Le test de Turing, proposé en 1950, ne prétendait pas démontrer qu’une machine possédait une conscience ou une intelligence comparable à celle de l’homme. Il posait une question plus pragmatique : si, dans une conversation, il devient impossible de distinguer durablement une machine d’un humain, que signifie encore « penser » ? Depuis, une IA peut rédiger. Traduire. Dessiner. Programmer. Jouer aux échecs. Analyser des images. Produire elle-même une partie du code nécessaire à d’autres systèmes. Elle peut même parfois produire des résultats surprenants que ses concepteurs ne comprennent pas entièrement. Et pourtant, elle ne pense pas nécessairement comme nous. Si les machines apprennent à partir de nos productions, que se passera-t-il lorsqu’elles commenceront massivement à apprendre à partir de contenus produits par d’autres machines ?

Car l’IA a besoin de notre culture pour se nourrir : livres, articles, images, recherches, œuvres, conversations. Or la presse et le livre sont déjà fragilisés économiquement. Certains médias ont conclu des accords avec les entreprises d’IA : Le Monde, par exemple, a signé en 2024 un accord avec OpenAI donnant à cette dernière accès à ses contenus dans le cadre d’un partenariat commercial. Si nous cessons de produire collectivement du savoir original, de la littérature et de la recherche, de quoi les intelligences artificielles de demain se nourriront-elles ?

De Jeanne d’Arc à Marco Polo

On avait présenté Romain Thérézien, avec une pointe d’humour, comme une sorte de « Jeanne d’Arc » de l’intelligence artificielle. À l’issue de cette rencontre, il me ferait plutôt penser à Marco Polo. Pas celui qui vient nous annoncer la victoire prochaine d’une nouvelle civilisation technologique, mais celui qui revient d’un territoire immense, encore largement inexploré, et nous en rapporte à la fois les merveilles et les dangers. Il nous montre AlphaFold et les promesses médicales. Les biais des algorithmes et les discriminations automatisées. Les deepfakes capables de faire trembler un marché financier. Les emplois qui vont disparaître et ceux qui apparaîtront. Les data centers qui consomment de l’énergie et de l’eau. Les systèmes capables de nous faire gagner du temps, mais peut-être aussi de nous faire perdre progressivement certaines facultés. Il rappelle que l’humain est créatif et saura rebondir. Il estime que le monde dystopique imaginé par certains, où les robots remplaceraient l’homme dans dix ans, est prématuré. Sans pour autant exclure que certaines évolutions puissent aller beaucoup plus loin.

Et c’est là que commence notre responsabilité: quelle société nous voulons construire avec l’IA, quelles limites nous sommes capables de lui imposer, quelles compétences humaines nous refusons de déléguer — et quel monde nous accepterons de laisser derrière nous pour gagner quelques secondes, quelques points de productivité ou quelques découvertes supplémentaires ?

À l’heure où la technologie accélère tout, il reste une chose que personne ne devrait nous retirer : le temps de réfléchir…

VL

Views: 66