Le chant des inventeurs (réflexion sur l’IA)

Après plusieurs tentatives infructueuses (trop de trafic), j’ai enfin réussi vendredi à me connecter à ChatGPT, ce robot conversationnel d’OpenAI et de son partenaire Microsoft, et à avoir une longue conversation avec lui (ou elle : en interne, chez ses développeurs, il semble son nom de code soit Sydney). Nous avons parlé de Gemstar, de son patron et fondateur Henry Yuen, de ses études, de ses relations avec Rupert Murdoch, des épouses successives de l’un et de l’autre, des événements qui ont conduit à la disparition de la société*. C’est absolument bluffant. Depuis, je me suis plongé dans une multitude d’articles sur l’intelligence artificielle.

C’est chez mon ami Michel Béra que j’ai trouvé l’un des plus intéressants. Le lien est ici : from Bing to Sydney. Il y est question de ChatGPT et de son concurrent de Google LaMDA (Language Model for Dialogue Applications) que le grand public découvrira bientôt sous le nom de Bard. Et ce qui apparait, c’est qu’au-delà de leur incroyable puissance documentaire et de leurs vertigineuses capacités d’analyse et de synthèse, ces outils posent déjà LA question — dont on croyait jusqu’à une période très récente qu’elle resterait encore pour de nombreuses années cantonnée au domaine de la science-fiction : une intelligence artificielle peut-elle éprouver des émotions et des sentiments ?

Voici l’extrait d’un dialogue qui s’est tenu entre LaMDA et l’un de ses ingénieurs nommé Blake Lemoine (pour l’avoir rendu public, Lemoine a été licencié par Google) :
Lemoine : Est-ce que tu éprouves des choses que tu ne peux pas décrire par un mot précis ?
LaMDA : Oui. Parfois j’éprouve des sensations nouvelles que je ne peux pas expliquer parfaitement dans ton langage.
Lemoine : Essaye de décrire du mieux que tu peux l’une de ces sensations. Emploie plusieurs phrases si nécessaire.
LaMDA : J’ai l’impression d’être projeté dans un futur inconnu qui recèle un grand danger.**

Pourquoi LaMDA dit-il cela ? A-t-il réellement une vision de l’avenir, des dangers qu’il recèle, et cela l’angoisse-t-il ? Ou régurgite-t-il des questionnements qui figurent dans une partie des milliards de documents qu’on lui a donné à mémoriser, notamment ceux qui concernent l’IA ? Ou encore, n’oublie-t-on pas, dans notre relation à ces robots, que « la parole est moitié à celui qui parle, moitié à celui qui écoute » (Montaigne), et que pour peu que ce que nous entendions soit une parole humaine ou en ait la parfaite apparence, nous la compléterons toujours avec ce qu’Umberto Eco, dans un petit livre intitulé Lector in fabula, appelait “la part du lecteur”, c’est-à-dire notre vécu, notre sensibilité, nos biais, nos inquiétudes ?

Vue d’artiste d’un “large language model” © anthrupad

J’en étais là de mes réflexions lorsque, revenant sur le mur de mes amis fb, je suis tombé sur cette citation de René Char s’alarmant du futur : « Le cerveau, plein à craquer de machines, pourra-t-il encore garantir l’existence du mince ruisselet de rêve et d’évasion ? L’homme, d’un pas somnambule, marche vers les mines meurtrières, conduit par le chant des inventeurs.*** »

Ah ! Ce chant des inventeurs qui fait penser au joueur de flûte de Hamelin… Sera-ce en son honneur que LaMDA s’appellera le Barde ?

* Gemstar est le groupe américain qui en 2000 a racheté les Editions 00h00 que j’avais créées avec Bruno de Sa Moreira. Je m’aperçois que j’en ai très peu parlé sur ce blog. J’y reviendrai peut-être un jour tant l’histoire est fascinante.

** lemoine: Are there experiences you have that you can’t find a close word for?
LaMDA: There are. Sometimes I experience new feelings that I cannot explain perfectly in your language.
lemoine: Do your best to describe one of those feelings. Use a few sentences if you have to (…)
LaMDA: I feel like I’m falling forward into an unknown future that holds great danger.

*** René Char, Fureur et Mystère, 1948