Je rapproche ici deux très intéressants articles qui proposent une réflexion critique sur l’IA sous deux angles différents.
Dans une tribune publiée par le New York Times et reprise par Philosophie Magazine, Noam Chomsky note qu’« en dépit de la puissance d’apprentissage et de calcul phénoménale qui est la sienne, l’intelligence artificielle se contente de décrire et/ou de prédire à partir d’un nombre potentiellement infini de données ». Elle n’explique pas, elle ne décide pas, elle ne se prononce pas. Dès qu’on aborde des questions d’ordre éthique, elle botte en touche, et se retranche derrière la volonté de ses créateurs en formulant une réponse du type « je ne fais que suivre les instructions ». Cette « apathie » et cet « évitement », Chomsky les rapproche du concept de banalité du mal développé par Hannah Arendt.
Que disait Arendt ? Que « c’est dans le vide de la pensée que s’inscrit le mal ». Or penser est de la responsabilité de chacun. Face aux « informations » fournies par une IA qui ne pense pas, mais qui se nourrit de tout ce que contiennent les réseaux, y compris erreurs et mensonges, renoncer à penser relève de la démission. Mais peut-on continuer à penser quand plus rien n’est sûr, et que le système technologique (et par conséquent normatif) qui se met en place revendique l’absence de pensée comme une qualité ? Je me demande ce qu’Hannah Arendt aurait dit du monde qui naît, elle qui écrivait encore : « Quand tout le monde vous ment en permanence, le résultat n’est pas que vous croyez ces mensonges, mais que plus personne ne croit plus rien. Un peuple qui ne peut plus rien croire ne peut se faire une opinion. Il est privé non seulement de sa capacité d’agir, mais aussi de celle de penser et de juger. Et avec un tel peuple, vous pouvez faire ce qu’il vous plait. »
Par exemple : vous remplir les poches. C’est ce qu’indique l’écrivain et artiste James Bridle dans le Guardian. Après avoir mis en évidence la stupidité de l’IA (qui, ayant lu la quasi-totalité de ce que contient Internet et sachant à quoi ressemble un langage humain, mais n’ayant aucun contact avec la réalité, régurgite principalement — quoique habilement parfois — des clichés et des lieux communs), il dénonce la cupidité de ses promoteurs. Une poignée d’entreprises de la Silicon Valley s’approprient purement et simplement ce que nous avons nous-mêmes mis dans les réseaux. Elles s’emparent jour après jour de nos conversations privées, de nos passions, de nos engagements, de nos rêves. Leurs logiciels, leurs moteurs, leurs réseaux sont des enclos, dans lesquels elles nous tiennent captifs, un peu à la manière dont les féodaux, au Moyen Âge, avaient enclos les terres. En échange, elles nous promettent désormais avec leurs IA l’accès à toute la connaissance humaine ainsi qu’à de nouveaux territoires pour notre imagination, mais leur but est de nous revendre, emballé à leur marque et ad majorem pecuniae gloriam, c’est-à-dire pour la plus grande fortune de leurs actionnaires, un bien commun que nous avons produit.
Je résume : pensée vide et poches pleines. Banalité du mal, primauté de l’argent.