Le Pays de Cocagne peint en 1567 par Pieter Bruegel l’Ancien offre la vision d’une oisiveté et d’une prodigalité qui tranche nettement avec les images d’humains robotisés ou de robots humanisés que l’on a l’habitude de voir lorsqu’il est question d’intelligence artificielle. Le choix de ce tableau en couverture du livre Langue d’automates inscrit clairement le projet de Claudia Hamm dans une perspective humaniste. Un soldat, un paysan et un érudit sont allongés sous un arbre ceint d’une table dressée, de mets entamés et d’une bouteille renversée. Les trois personnages sont repus, les corps lourds, ils ont sombré dans une torpeur ou dans une forme d’apathie – et avec eux, les trois états de la société qu’ils symbolisent. Pour Thomas d’Aquin, l’acédie, cette paresse spirituelle résultant d’un manque de soin de sa vie intérieure, était le pire des péchés : celui dont découlaient tous les autres.
L’une des autrices contribuant à ce recueil de textes, Isabel Fargo Cole, fait de l’analyse iconographique le point de départ d’une réflexion sur nos représentations collectives de l’intelligence artificielle. Elle remarque, mises à part les variations sur le Penseur de Rodin et la Création d’Adam de Michel-Ange, une utilisation prégnante d’un visage de femme, dont le cerveau est ouvert et traversé de câbles et de faisceaux lumineux. La récurrence de cette fausse figure mariale, dont le mystère de l’incarnation se situe moins dans l’enfantement que dans la porosité entre la chair et les câbles, lui fait dire qu’il pourrait s’agir d’une illumination collective. Mais elle poursuit sa contemplation en considérant l’orientation de cette face : toujours tournée vers l’avant, le regard vers l’intérieur, telle la moitié d’une tête de Janus, le simulacre d’un pur avenir coupé d’un regard sur le passé et pris au piège de son propre reflet. Ce qui est présenté comme une vision prophétique est ici mis à l’épreuve du sens, de notre capacité à lire et à interpréter des images, mais aussi des textes.
C’est précisément ce geste herméneutique qui devient le fil conducteur des dix-sept textes du recueil. Ils ont pour sujet la vision de l’humain à travers les pratiques du langage : articles, poèmes, notices biographiques, réflexions, manifestes, pour la plupart écrits en langue allemande, certains traduits du français ou de l’anglais – autant d’écritures et d’approches différentes qui composent une réflexion commune sur un moment très particulier de l’histoire de l’expression verbale. À mesure que l’on découvre les enquêtes et les alertes sur la perte de capacités fondamentales, la nécessité de défendre le langage humain devient de plus en plus pressante. Au-delà des « données personnelles » distribuées gratuitement sur internet, plusieurs contributeurs s’inquiètent de l’atteinte à une donnée anthropologique essentielle : la dignité de l’humain à qui le seul don accordé en propre, pour parler avec Pic de la Mirandole, est de se déterminer lui-même.
Emmanuel Carrère revient sur l’histoire de la cybernétique à travers la biographie d’Alan Turing, mathématicien britannique et pionnier de l’IA. En mêlant le récit de vie d’une figure excentrique et centrale dans l’histoire de l’espionnage à celui d’un parcours intellectuel hors du commun, l’écrivain français rappelle l’origine militaire de l’outil informatique et son idée première : simuler l’activité du cerveau par la machine. Dès les années 1950, dans un article publié dans la revue Mind, Alan Turing esquisse les deux réactions : l’une, matérialiste, considérant que toute activité de l’esprit peut être découpée et reproduite par la machine ; l’autre, spiritualiste, considérant qu’il y aura toujours une part impénétrable chez l’être humain, impossible à saisir par un algorithme. Sur ces deux conceptions se fondent ensuite les différents espoirs ou craintes suscitées par les avancées techniques.
Dans ce partage des mondes, Joseph Weizenbaum, dont la biographie est esquissée par Bernard Pörksen, se situerait dans la seconde catégorie. D’origine allemande, émigré aux États-Unis lors de la montée du national-socialisme, l’informaticien est célèbre pour la conception d’un programme conversationnel (ELIZA) simulant une psychanalyse. En observant les conséquences désastreuses de son invention, qui provoque des confusions inouïes, il n’aura de cesse de mettre en garde le public contre la puissance des machines face auxquelles la raison devient facilement impuissante. Qu’il s’agisse de la honte prométhéenne, ce complexe d’infériorité par rapport à la machine analysé par Günter Anders, ou de la jalousie masculine de la procréation, Joseph Weizenbaum veut alerter – dès les années 1960 – contre l’erreur fatale consistant à se comparer à la machine. Ce qui est en jeu, c’est la vision de l’humain. Celui-ci n’est en aucun cas « computable », réductible à des processus prévisibles et reproductibles. C’est sur le terrain du langage, des métaphores en particulier, que se joue selon lui l’illusion de la transparence ou la capacité à préserver le secret du vivant.
Cette réflexion est prolongée dans le texte consacré à Emily M. Bender, connue pour le néologisme qu’elle a créé en qualifiant les grands modèles de langage (LLMs) de « perroquets stochastiques » (2021). Elizabeth Weil montre à quel point se mouvoir à la lisière de l’humain et du non-humain est périlleux. Le problème, selon la linguiste américaine, est que « nous avons appris à construire des machines produisant des textes sans esprit, mais nous n’avons pas appris à ne pas nous représenter d’esprit derrière ces textes » (p. 34). La diffusion spectaculaire de l’IA tiendrait en effet à ce flou d’un rapport trompeur à la machine, à laquelle nous prêtons des intentions en succombant à l’illusion d’un sens produit par l’assemblage pourtant aléatoire de séquences langagières, selon des probabilités statistiques. Si l’élaboration du sens ne s’effectue plus dans un rapport au réel (en référence à la noix de coco, au chagrin d’amour…), mais dans ce qu’on appelle la sémantique de distribution, comme le défend Christophe D. Manning (le sens émerge purement dans un contexte sémantique), on n’aurait plus affaire à une simple querelle entre chapelles universitaires, selon Emily M. Bender, mais à un phénomène qui nous concerne tous. Elle compare l’IA générative à la bombe atomique (comme Elon Musk, d’ailleurs) : à garder sous haute surveillance. La diffusion de l’IA paraît aussi bien trop précoce aux yeux de Gary Marcus, chercheur en sciences cognitives et entrepreneur, qui travaille à l’élaboration d’une IA « responsable ».
En donnant des aspects humains à la machine (en simulant son langage), écrit encore Elizabeth Weil, s’installe aussi la croyance que la machine est en mesure de nous perfectionner. Nous nous comparons à elle en la prenant pour mesure. L’humanisation de la machine va donc de pair avec la machinisation de l’humain. Or, l’effacement de la limite entre humain et non humain devient particulièrement problématiques lorsque l’on entre dans la sphère juridique.
L’exemple brandi est le mouvement pour le droit des robots1. En effet, pour faire évoluer le statut des robots, des chercheurs en droit se réfèrent au droit romain, chez qui les esclaves étaient à la fois sans droits (la propriété de leurs maîtres) et des personnes juridiques, dès lors qu’ils prenaient part à la vie de la cité (les esclaves n’engageaient pas la responsabilité de leurs maîtres en affaires). L’application de ce modèle permettrait aux concepteurs de robots et de programmes d’IA de décliner toute responsabilité concernant leurs effets sur les individus et les sociétés.
Une autre question juridique majeure est soulevée par Nina George, à savoir le pillage de la propriété intellectuelle. Chiffres à l’appui, l’autrice met en avant le viol des droits d’auteur par les programmes du type ChatGPT, BERT, LlaMa, Microsoft Copilot & Co., générant des suites de mots considérés comme des textes à partir d’une compilation de matières textuelles soumises au droit d’auteur. La réponse faite notamment par OpenAI aux très nombreuses plaintes qui lui sont adressées est de comparer ces programmes génératifs à une simple « lecture » de publications destinées à être lues. L’analogie faite entre la machine et l’humain est à nouveau le nœud du problème, dont il est difficile de se départir, notamment dans le vocabulaire que nous employons pour qualifier les processus opératoires des machines. Après avoir retracé dans les grandes lignes l’histoire du droit d’auteur, dont les principes que nous connaissons aujourd’hui sont assez récents puisqu’ils datent de la Révolution française, Nina George clôt son article sur la seule solution pour garantir ce droit humain contrer les intérêts économiques des grandes firmes de la Tech : une régulation politique.
Annette Hug, quant à elle, montre comment le déséquilibre existant entre l’hémisphère nord et l’hémisphère sud, conséquence de l’histoire coloniale, est encore accentué par le développement de l’IA. Structurellement, les langues dominantes provoquent l’effacement des langues dites « rares » : à ce compte, l’exemple du tagalog est parlant, puisqu’il passe par le filtre de l’anglais avant d’être traduit vers d’autres langues de façon automatique. Alors qu’une culture et des langues en voie de décolonisation pourraient bénéficier d’un coup de projecteur et s’accompagner de soutiens à la formation au moment où les Philippines sont l’invité d’honneur à la Foire du livre de Francfort en 2025, la traductrice déplore le passage systématique par l’anglais par le biais de l’IA générative.
Dans le même registre d’une critique postcoloniale, le témoignage de Mophat Okinyi est particulièrement saisissant. Celui-ci s’est retrouvé sans avertissement et surtout sans accompagnement psychologique à trier des contenus à caractère sexuel, en particulier pédophiles, selon différents degrés de gravité, pour à peine un dollar de l’heure. La promesse d’emplois des entreprises occidentales au Kenya n’est qu’une nouvelle forme d’esclavage numérique selon lui. Les différentes initiatives (création d’un syndicat, formulation d’une pétition adressée au parlement kenyan) pour veiller aux conditions de travail, notamment des jeunes, dans le secteur de la programmation et du data cleaning, n’ont pas suffi. Il voit le colonialisme numérique grandir dans le manque d’éthique et la violence psychique infligés aux Kenyans au profit d’entreprises occidentales.
Pourquoi alors un tel investissement en énergie et en ressources ? Pourquoi l’automatisation est-elle présentée comme une promesse, alors qu’elle a l’allure d’une dystopie ? On le voit, les contributions sont à charge. Les discours optimistes, qui tentent de trouver des avantages ou les potentialités à l’IA générative sont absents de ce recueil. Mais ce choix est assumé et n’est pas simplement un point de vue technophobe. Il s’agit, selon Claudia Hamm, d’une critique fondée sur la conscience que les outils que nous utilisons nous transforment et que la technique n’est pas neutre. Les enjeux sont trop importants, selon l’autrice. Une technologie qui automatise des décisions langagières touche à la vision de l’humain, à l’essence de l’art et à la valeur de l’expérience, elle génère trop de laideur et nous rend inattentifs à celle-ci (Annie Le Brun). À ce compte, le coût, économique, politique et surtout écologique, sont absolument disproportionnés.
Face à l’attraction d’un monde illusoire où les livres, la poésie, la traduction seraient accessibles sans avoir besoin de réfléchir, dans lequel nous serions repus mais impuissants, comme ces personnages de Breughel, Claudia Hamm propose un chemin pour prendre soin de l’esprit. En se posant la question pourquoi elle traduit, elle répond « par curiosité » (p. 15-16). « Par soif de connaissance, appel du lointain, envie d’entendre d’autres voix que la mienne et de leur donner une forme. Par fascination pour l’espace entre les langues, pour la concentration sur la sonorité, le rythme et la forme, pour ce que la langue fait de nous de façon hypodermique et comment elle guide, plus que nous le croyons, notre compréhension. Par nécessité de m’exprimer dans le dialogue, de me connaître dans l’exercice de la formulation. Par conviction que l’élargissement vers d’autres perspectives – celles tracées par un livre singulier que je mets en avant – pourrait compléter ou complexifier le monde pour ma communauté linguistique. Par plaisir de la rencontre, de l’effet bienvenu de l’étranger. Des raisons qui s’enracinent pour beaucoup dans le vivre ensemble. Qui font de ma parole et de mon écriture des actes. »