Le monde, le vrai, et l’intelligence artificielle

Sans vouloir minimiser la nouvelle émotion provoquée par « l’IA », on peut dire que l’affaire est tout sauf nouvelle.

Elle a pourtant eu, et continuera d’avoir, des métamorphoses intéressantes.

L’image ci-contre est tirée de Ghost in the shell, un film d’animation japonais d’OSHII Mamoru (1995). L’héroïne, qui est un cyborg, est en train de raconter ce qu’elle pense d’elle-même, et de sa génération truquée. L’histoire se déroule en 2029.

Acte 1. L’âme du robot

‘Robot’ est un mot tchèque. Il date d’un roman de Karel Čapek publié en 1921, où les ‘robots’ sont des ouvriers artificiels. Le mot tchèque robota signifie ‘travail’, mais plutôt au sens de ‘corvée’. Toutes les langues slaves possèdent des mots analogues, nom ou verbe, comme en russe работать rabotaty ou en bulgare работя rabotya, ‘travailler’.

Un robot, dès le départ, n’est donc pas seulement une ‘machine’, comme les tabourets à roulettes qui bougent tout seuls, dans l’Iliade¹, ou les automates de Byzance ou de Bagdad au Moyen-âge² ; c’est un ‘homme-machine’.

Une trace remarquable d’un humanoïde créé par l’homme est la légende du Golem, dont la version la plus célèbre est celle qui l’associe à rabbi Loew et à l’Altneu Schul de Prague (ci-contre à gauche). Le rabbin avait (dit la légende, car ce rabbin Loew a bien existé par ailleurs ; il est mort en 1609) créé une sorte de serviteur à partir d’une statue d’argile, à laquelle il avait magiquement insufflé la vie – comme autrefois, selon la Bible, Dieu fit avec Adam³. Mais un jour le rabbin, qui avait été appelé à la synagogue, avait oublié d’effacer le mot magique sur le front de la créature. Celle-ci, laissée à elle-même, commence à faire des ravages dans le quartier. On appelle rabbi Loew, qui accourt et parvient à effacer le mot oublié, ou du moins une lettre essentielle. Ouf !

Le dérèglement de la machine est un vrai souci, tous les ingénieurs le savent. Il faut un Service-après-vente sérieux pour les golems ! On n’a pas attendu notre époque pour les trouver inquiétants.

Un épisode célèbre du Talmud, vers le IV^e siècle EC, nous le dit franchement. A l’époque du Talmud, il y avait des communautés juives en Palestine bien sûr, mais beaucoup d’autres en Mésopotamie (actuel Iraq) parce que les empereurs les avait déportées là-bas. Les deux groupes parvenaient à correspondre. Un jour, ceux de Palestine voient arriver un individu bizarre. On l’interroge, mais il ne sait pas parler. Rabbi Zérah dit : tu es une créature de magie, retourne à ta poussière !⁴

La vraie réponse, quand on veut savoir qui est un robot – elle est déjà là, bien avant le ‘test de Turing’.⁵

Acte 2. La mécanique du robot

L’ingénieur Vaucanson avait créé un canard. Il bat des ailes et, dit-on, digère et défèque⁶. Vaucanson le présente au public en 1739 – et le choc est rude : il doit être vrai ? Vaucanson voulait faire mieux que le coq de l’horloge de Strasbourg, qui battait des ailes et tirait la langue.

Ce sont des automates. Le public d’aujourd’hui les trouverait comiques ou infantiles. Mais c’est une attitude un peu limitée, par son impuissance à se représenter les exploits d’autrefois, et même un peu myope puisque ces réalisations anciennes sont souvent la base de celles d’aujourd’hui. Le public du XVIII^e siècle trouvait cela extraordinaire et inquiétant. L’Encyclopédie, de Diderot, d’Alembert et leurs collègues, en 1751 avait déjà un article Automate⁷ où le canard de Vaucanson est soigneusement décrit, et même un article Androïde⁸.

Déjà à cette époque, on discutait pour savoir si la technique, un jour, parviendrait à imiter l’être humain. Ou si, comme dans l’exemple de l’homme-magique du Talmud, il n’y avait pas une sorte de parallèle avec la Création naturelle. C’est ce que se demandait, en 1760, le naturaliste Charles Bonnet⁹ :

Si Vaucanson a su construire un canard artificiel qui avançait son bec pour saisir la nourriture qu’on lui présentait, l’Auteur de Vaucanson n’aurait-il pu construire un automate qui imitât les actions de l’homme ?

Je ne veux pas insinuer par là, que l’homme est un pur automate ; je veux simplement donner à entendre qu’il est possible que des actions que nous attribuons à l’âme, soient l’effet d’une secrète mécanique.

Les clivages intellectuels n’étaient pas exactement ceux d’aujourd’hui, mais pas si loin. Il y avait des savants qui, comme Descartes, pensaient que puisque les animaux n’ont pas d’âme, ce sont en effet des machines. Des machines complexes, oui, mais faites d’instincts et de réactions, des machines avec des causes et des effets. D’autres, comme plus tard La Mettrie en 1748, soutenaient que l’homme n’est pas fondamentalement différent des animaux – que c’est une sorte d’animal. Plus élaboré si l’on veut, mais un animal. Qu’il n’avait pas d’âme qui le distingue tellement ; que l’homme aussi avait des instincts, des passions, et des réactions explicables.

Notez en passant s’il vous plaît que le petit livre de La Mettrie, L’Homme machine peut être vu comme le ‘désenchantement du monde’ qu’on nous répète, mais aussi comme une abolition de cette barrière étanche que la notion “d’âme” plaçait entre les autres animaux et l’homme.¹⁰

C’est cette controverse qui explique la difficulté que Darwin rencontra pour faire admettre sa théorie de la descent with modifications ‘modifications de la lignée’ des organismes vivants. Car si l’homme était un singe performant, où était son âme ? Les chrétiens qui tenaient à la distinction entre l’animal et l’homme, puisque ce dernier était le seul à qui Dieu aurait donné une âme, se trouvaient embarrassés. Encore aujourd’hui, dans le Bible belt étatsunien et ailleurs, les ligues religieuses s’efforcent de faire interdire l’enseignement des sciences naturelles – en expliquant que Darwin est contre la Bible.

Cinquante ans avant Darwin¹¹, dans son exposé de 1808 par exemple, Lamarck avait expliqué que les êtres vivants, à la différence des minéraux ou objets divers, ont en commun de se reproduire, se nourrir et se développer individuellement. Ce qui impliquait, soulignait-il, qu’ils réagissent aux milieux spécifiques où ils vivent, et que la diversité des espèces résultait, au cours de longues périodes de temps, des capacités biologiques des individus mis en contextes réels. Lamarck est le véritable inventeur de l’évolutionnisme.¹² Les robots, même bien habillés, ne se reproduisent pas.

Mais il y avait d’autres voies d’investigation. La fascination pour les automates¹³, au moins depuis les ingénieurs grecs d’Alexandrie (dans les derniers siècles AEC), avait continué sa trajectoire jusqu’à Edgar Poe, qui cite les Letters on Natural Magic (1824) de David Brewster qui avait établi une liste d’automates illustres¹⁴. Cette fascination produit aussi une réflexion sur ces inventions étonnantes et provocantes. Un cas célèbre est donc l’article d’Edgar Poe¹⁵, en 1836, sur le joueur d’échecs de Maelzel, conçu en 1769 par le baron Kempelen ; Maelzel était aussi un habile inventeur, mais avait acheté cet automate. Poe dit que le joueur d’échecs n’est pas un automate, mais qu’il y a un humain caché dans la boîte. Il donne deux séries d’arguments. La première est destinée à montrer qu’un corps humain peut être dissimulé dans le coffre. La seconde est plus variée, mais un des ses arguments majeurs est que le joueur hésite parfois, et qu’il aurait même perdu une ou deux fois. Or, dit en substance Edgar Poe, si c’était une machine, quelle différence au fond entre gagner une fois et gagner toujours ?

Cet argument a une grande importance à l’époque moderne. Le dicton Errare humanum est, est d’époque gréco-latine¹⁶. Non seulement il signifie, comme une excuse, qu’il est humain de se tromper, mais il suggère qu’il y a quelque chose de proprement humain dans le fait de se tromper. C’est un thème analogue à celui du rire, propre de l’homme.

(…) voyant le dueil qui vous mine et consomme.
Mieulx est de ris que de larmes escripre,
Pource que rire est le propre de l’homme.¹⁷

À la suite des humanistes, et surtout à partir des XVII^e et XVIII^e siècle, l’argumentaire change de registre : contre les machines et les automates, la “faiblesse humaine” a quelque chose de rassurant. Blaise Pascal pensait encore que l’imagination est source de tromperies – nous ne voyons plus les choses comme lui.

Acte 3. Cyborg

Comme les autres mots en -logie (ophtalmologie, bactériologie, virologie, etc.), le mot technologie a désigné « l’étude des techniques ». Il n’avait qu’un emploi confidentiel.

Dans les années 1960, on voit le mot technologie remplacer le mot technique. On parle désormais des « progrès de la technologie », et tout le monde pense : « progrès des techniques ». On peut y voir un cas de manie anglaise, ou un de ces méta-mots qui remplacent le balayeur par le technicien de surface ; sans doute. Mais il y a peut-être autre chose.

Le mot cyborg, comme le mot robot, est récent. C’est un condensé de ‘cyb-ernétique’ et de ‘org-anisme’. C’est un néologisme en langue anglaise (1960), dans le contexte de l’exploration spatiale lointaine. Au départ, le terme cherche à décrire comment on pourrait, ou comment on devra, “améliorer l’être humain” s’il faut survivre dans des environnements dangereux.

Très vite, la notion “d’environnement dangereux” a été rapatriée sur terre. C’est ce que montre Soleil vert, le film de Richard Fleischer (1973). Grand Prix du Festival du film fantastique d’Avoriaz l’année suivante, le film montre la vie, la vraie, en 2022 : une planète chaude, polluée, surpeuplée, où les ressources de toute sorte sont devenues rares et chères – sauf pour une “élite” de gens très riches et puissants. Le vieux copain du détective (joué par Edward G. Robinson, dont ce fut le dernier rôle), qui se souvient d’en avoir vu dans sa jeunesse, pleure devant “une vraie tomate”. On ne se nourrit plus que d’ersatz, de chewing-gums nutritifs, dont le ‘soleil vert’ – je vous épargne ce que le film en dit.

Soleil vert, malgré ou à cause de ses aspects Metropolis, baigne indiscutablement dans une ambiance “populiste” où chaque être humain est seul et désolé en face de la Fin du monde inexorable – mais où il faut trouver un sandwich. C’est déjà le ton apocalyptique des futurs Terminator, dont le premier sortira en 1984, dix ans plus tard. Et c’est vrai que le Terminator est conçu pour les moments difficiles, atomiques. La différence avec Terminator (qui est toujours en retard d’une génération de robots), est que Terminator a changé la notion de cyborg.

Nous avons vu que ‘cyborg’ était au départ une réflexion sur quel genre d’êtres humains, un peu truqués, on allait pouvoir envoyer sur Mars. Terminator, dans la peau d’Arnold Schartzenegger, est total-robot. Quand on lui fait des trous, ça repousse tout de suite. Terminator, qui est un gentil, comprend que s’il veut servir les Humains, il doit apprendre un minimum à faire des blagues. Sport difficile pour la machine. Mais enfin, il s’efforce.

Au XVIII^e siècle, où l’on connaissait non pas les implants, mais déjà les membres articulés pour aider les mutilés, on disait : je te mets un nouveau bras, est-ce que tu es encore toi ? Quand on a commencé à faire des greffes, les gens se sont dit : est-ce que c’est encore lui ? Un moment-clé a été celui des premières greffes du cœur, par Christiaan Barnard en 1967. Immédiatement, on a retrouvé la problématique classique : si peu à peu on t’enlève ceci, puis cela, à partir de quand tu n’es plus toi ?

Le mot cyborg désigne en théorie une créature mixte : une part humaine, une part outillée. Toute l’astuce est la question : jusqu’à quand l’outillage n’est-il qu’un outillage ? Les romans sur le sujet, en ce sens précis, ne sont guère antérieurs aux années 1960-70. Cyborg apparaît dans le titre d’un roman américain de M. Caidin, en 1972. Martin Caidin était pilote d’essai. Il imagine qu’un pilote, dans l’accident de son avion, a perdu ses membres et un œil. Les films ne commencent à se faire nombreux que dans les années 1980 : le premier Terminator est de 1984. Le Robocop de Paul Verhoeven est de 1987.

Au Japon, le premier Ghost in the shell, de OSHII Mamoru est de 1995, et adapte un manga de SHIRÔ Masanume (1991).¹⁸ Nous y retrouvons le souci de « l’âme » – que désigne le mot ghost dans le titre anglo-français. Le titre japonais 攻殻機動隊, Kōkaku kidōtai, désigne plutôt des super-flics en armures. Mais tout au long du film, où l’on trouve des séquences silencieuses longues et soignées, et des discours assez longs des protagonistes sur leurs états d’âme, on a un souci très net du rapport inquiet entre le « corps technique », gonflé et truqué, et la conscience qui est derrière, ou devant, ou du moins peut-être quelque part ! Bref, les robots ont du vague à l’âme.

Une grande innovation de Ghost in the shell, dans sa réflexion sur le corps, c’est que l’héroïne a un corps de femme. On ne peut pas ne pas le voir, ni négliger les conséquences sur la réflexion qu’on nous présente.

Acte 4. La poupée qui parle

Kazuo Ishiguro, romancier d’origine japonaise qui écrit en anglais, lauréat du Nobel de littérature 2017, a publié en 2021 Klara and the Sun, traduit en français par Anne Rabinovitch sous le titre Klara et le soleil. Prix des lycéens 2023, en France. Si j’insiste sur les prix et distinctions, c’est parce que, comme souvent dans les mangas pour ado, il n’y a pas à proprement parler d’intrigue, mais un laborieux souci du “soi”, du regard des autres… des classes sociales.¹⁹

Klara est un robot qui parle et qui pense. Elle est très chère, car elle fait partie (ou presque) de la « dernière génération ». Dans les fictions récentes sur les robots, il est constamment question des rivalités entre générations. C’était déjà le cas dans les Terminator, à vrai dire. Et les jeunes adultes d’aujourd’hui, qui sont persuadés “d’appartenir à une génération” (dont bien sûr vous êtes exclu – c’est d’ailleurs le but) ne voient pas tout de suite qu’ils vont passer dans l’Aspirateur à générations qu’ils ont eux-mêmes contribué à construire.

Klara attend les clients dans la vitrine d’un magasin de robots²⁰, et nous avons des détails sur les jalousies feutrées entre robots et sur les éclairements, car l’énergie dont ces poupées ont besoin vient du soleil – qui est donc un acteur explicite de l’histoire. L’auteur ne perd pas le nord.

Ishiguro nous raconte que les enfants, souvent très seuls car leurs parents sont très occupés, sont contents d’avoir des robots avec qui ils peuvent discuter, réviser leurs leçons. Plus la poupée est supposée capable d’être utile à l’enfant, plus elle est chère. Nous sommes donc entre “gens de bien(s)”, ce qui apparemment ne dépayse pas les lycéens – du moins ceux qui ont été choisis pour proposer un prix. Mais en même temps, la poupée est animée d’une sensibilité, partielle ; il ne faut pas qu’elle en rajoute. Il faut qu’elle soit serviable. Vous imaginez les dérapages possibles, non ?

*

Autant dire que les débats actuels sur « l’IA » occupent surtout (a) les entreprises qui cherchent comment se débarrasser des humains trop chers, et (b) les employés qui craignent d’être mis à la porte. Les métiers à tisser automatiques vont avantageusement remplacer la main d’œuvre – selon un scénario classique, récemment illustré par les caisses automatiques des supermarchés.

Nous les adultes, avons remarqué que ces caisses automatiques ont infléchi en amont la présentation des produits qu’il faut coder, et en aval doivent être “accompagnés” par d’ex-caissières qui savent taper les codes pour les remettre en marche quand “il y a un bug”. Pour six machines, une seule ex-caissière.

Selon Ishiguro, les jeunes adultes voient la chose d’un autre œil. En grandissant, ils voient que le nounours ne suffit pas à leurs “besoins affectifs” et ils veulent des super-nounours pour remplacer des parents absents. Ils ne veulent plus de jouets ; ils veulent du “vrai”, le monde le vrai – ou du moins des imitations satisfaisantes. L’intérêt des robot(e)s qu’imagine Ishiguro, c’est qu’elles réagissent aux comportements des enfants, y compris par la parole. Elles savent dialoguer.

Et là, nous dit l’auteur du roman, on a réussi l’examen du professeur Turing qui nous disait autrefois : si vous ne voyez pas que c’est un robot qui vous répond, c’est que ce n’est plus un robot. Le livre d’Ishiguro est écrit pour les adolescents et leurs parents. Il s’efforce de rassembler les éléments d’un « problème de société ». Car à sa façon il a bien vu que la technologie, c’est du social.

Conclusion

Dans la petite supérette de mon quartier, les employées, qui changent souvent, sont presque toutes d’origine étrangère. La plupart vivent depuis longtemps en France, habitent loin en banlieue où c’est moins cher, et parlent bien français. Je parle au féminin parce que ce sont majoritairement des femmes.

Il y a trois postes de caissières, dont un ou deux sont ouverts. La supérette ouvre à 9h00 et ferme à 21h00, sept jours sur sept. Pour aller sur Mars, il faudra sûrement des cyborg ; pour le ras du sol, il faut encore le personnel, avec les gens au petit matin pour recevoir les camions et remplir les rayons ; là, ce sont plutôt des hommes que des femmes.

Ce sont sans aucun doute des êtres humains ; elles me répondent, même quand je plaisante : nous nous confortons réciproquement dans l’idée que nous sommes humains.

NOTICES des images. (1) Une image un peu recoupée de l’héroïne de Ghost in a shell, 32′ 01. (2) Ce gallicagramme a été établi avec le journal Le Monde, parce que c’est le seul qui ait accepté jusqu’ici de laisser “fouiller” ses archives récentes. (3) La Altneu Schul de Prague, lieu classique du la légende du golem. Photo de juillet 2022. (4) Ces deux lignes, scannées dans une édition ordinaire du traité Sanhédrin, contiennent le texte traduit dans la note, et résumé dans le texte du billet. Le golem n’est pas nommé dans ce texte, où il est question d’un ‘homme’, gabra. (5) L’essai de Charles Bonnet Essai analytique sur les facultés de l’âme (ch. XIX, § 506) est accessible en ligne, ici pour l’édition séparée de 1760 ; dans les Oeuvres complètes, tome VI, 1782, p. 215. (6) L’image vient d’ici. (7 et 8) Attention : les deux gallicagrammes ont des extensions chronologiques et donc des sources un peu différentes. (9) Soylent Green est le nom du film de Fleischer (et du produit incriminé) en anglais ; ici à 02′ 15. (10) Ici à 09′ 34. (11) Ghost in the shell, 02′ 34. (12) Même film, un peu plus tard – toujours plus ou moins dans le générique mêlé au pré-générique. (13) Soleil vert, 83′ 46. L’inspecteur Lagrume est un personnage principal du film Maigret tend un piège, dont il a été question dans le caramel précédent. (14) Ghost in the shell, 08′ 43.

1. Iliade, 18, 376 : ‘Il [Héphaïstos] est en train de fabriquer des trépieds – vingt en tout – qui doivent se dresser tout autour de la grande salle, le long de ses beaux murs bien droits. A la base de chacun d’eux, il a mis des roulettes en or, afin qu’ils puissent, d’eux-mêmes (automatoi) rouler dans l’assemblée des dieux, puis s’en revenir au logis, une merveille à voir !’ trad. de Paul Mazon. [↩]
2. Sur les objets automatiques dans les contes, voir le Catalogue de Stith Thompson D 1600-1649. Pour le golem : D 1635. [↩]
3. Genèse, 2, 7. [↩]
4. Sanhedrin 65b. ‘Rabbah [bar Nahmani ; il vivait en Babylonie] avait créé un homme et l’a envoyé chez Rabbi Zérah. Celui-ci lui a parlé, mais l’autre ne lui répondait pas. Il lui a dit alors : tu n’es qu’une (créature) de la sorcellerie, retourne à ta poussière.’ Traduction d’Israël Salzer. [↩]
5. Quand Alan Turing a imaginé son exercice en 1950, il ne concevait qu’une ‘conversation par écrit’. [↩]
6. Ce point est essentiel parce que c’est celui, comme le verra Lamarck, qui s’approche le plus de la simulation d’un organisme vivant. Vaucanson obtenait cet effet par des précédés chimiques, comme l’avait fait auparavant (avant 1690) le cygne automate de Jean-Baptiste de Gennes. [↩]
7. Voir ici. [↩]
8. Consultable ici. Il est surtout consacré au Flûteur de Vaucanson. [↩]
9. Charles Bonnet, 1760, Essai analytique sur les facultés de l’âme, ch. 19, § 506 p. 295. [↩]
10. La question est explicitement abordée par La Mettrie dans les dernières pages de son petit livre : ‘Suivons le singe, l’éléphant, le castor etc. dans leurs opérations. S’il est évident qu’elles ne peuvent se faire sans intelligence, pourquoi la refuser à ces animaux ? et si vous leur accordez une âme, fanatiques, vous êtes perdus etc.’ Dans l’éd. Folio, ce passage est p. 211. [↩]
11. L’article de Darwin et Wallace est de 1858, et On the Origin of species de l’année suivante. [↩]
12. Les idées de Lamarck ont souvent été abusivement simplifiées ou déformées. Voir en particulier André Langaney, 1999, La philosophie… biologique, Ed. Belin. Il explique que son titre réfère à celui de l’ouvrage de Lamarck, 1809, La Philosophie zoologique ; et surtout il propose un exposé lumineux des idées de Lamarck. [↩]
13. Voir Dominique Pestre (dir.), 2015, Histoire des Sciences et des savoirs, tome 1 : De la Renaissance aux Lumières, tome dir. par Stéphane van Damme, Ed. Seuil, p. 143 et suiv. [↩]
14. Ces Lettres, adressées à Walter Scott, sont accessibles ici. Voir en particulier la lettre 11. Brewster, outre qu’il a inventé le kaléidoscope, fut l’éditeur de la Edimbourgh Encyclopaedia, 18 volumes entre 1808 et 1830. Elle comporte aussi un article ‘Androides‘, vol. II, p. 62-67. [↩]
15. Traduit en français par Baudelaire, 1865. [↩]
16. Hormis la citation de Ménandre, qui n’est pas très sûre, on trouve une 1re version chez Cicéron (Philippiques, XII, 2) : Cuiusvis hominis est errare, nullius nisi insipientis perseverare in errore ‘Tout homme peut se tromper, seul l’imbécile persévère dans l’erreur’. Le thème se retrouve chez Jérôme (lettre 57) : et errasse humanum est, et confiteri errorem prudentis ‘s’être trompé, c’est humain, mais le sage reconnaît son erreur’. Chez Augustin, l’être borné devient ‘diabolique’. [↩]
17. ‘(…) Voyant le deuil qui vous mine et consume. Mieux est de rires que de larmes écrire, parce que rire est le propre de l’homme.’ Rabelais, 1542 (1535), Gargantua, avant le Prologue. Edition bilingue avec texte établi par Michel Renaud, annotation et traduction de Guy Demerson, Ed. du Seuil, coll. Points, 1996 (1973). [↩]
18. Je parle ici du film de 1995, pas de ses successeurs dans la série ; ni des mangas, que je n’ai pas lus. Le film suit une intrigue louche de bagarre entre deux “Services” concurrents. [↩]
19. Le mot classe sociale est ici un peu pervers. Les mangas pour (jeunes) adolescents, traduits en français, ont un souci aigu du contexte social, mais surtout des relations au sein de la famille et au sein de l’école ; les deux “milieux” étant en miroir. Au Japon et dans les mangas, les écoliers portent un uniforme, ce qui donne aux rapports de force, analogues aux aux rapports sentimentaux, constamment soulignés, une sorte de crispation supplémentaire. Il faut absolument, malgré la fiction de l’égalité, faire apparaître pourquoi tu es le plus faible, le moins bon. Le terme de ‘classe sociale’ est donc imparfait : sans en être en rien faux du point de vue des richesses et de leur étalage, il ramène cependant les catégories en conflit à un modèle trop étroit. [↩]
20. Pour le lecteur européen, tout ce début sur la présentation en vitrine et les lumières a le caractère très glauque des quartiers des prostituées d’Amsterdam ou d’Anvers. Ishiguro, manifestement, ne connaissait que l’aspect consumériste clean. [↩]

---

---