1. Peut-on encore s’opposer au monde d’Arthur Mensch ?
L’audition du CEO de la start-up française Mistral IA, Arthur Mensch, à la commission des affaires économiques du Sénat français, le 22 mai 2024, donne quelques sueurs froides quant au niveau de compétences de notre représentation nationale sur l’un des sujets les plus importants de notre époque : l’Intelligence Artificielle. Presque tous les sénateurs du jour déclareront en préambule de leur intervention 1) être fascinés par la réussite de l’entrepreneur, 2) ne rien connaître à l’Intelligence Artificielle, et 3) attendre que le CEO d’une start-up d’à peine 50 salariés leur donne le chemin de la régulation à suivre en la matière ; que faut-il faire, monsieur Mensch ? Aidez-nous à réguler votre secteur d’activité ! L’une des auditrices du jour, la sénatrice UDI de la Côte d’Or, reprendra même l’ingénieur à ces mots : « Moi je suis ravie d’entendre que vous n’attendiez pas grand-chose des politiques, je trouve ça plutôt sain, et je pense que c’est nous qui attendons davantage de votre part ». Alors Arthur Mensch s’exécute et partage ses recommandations en matière de droit du travail, d’investissement dans la recherche, de financement des entreprises, et même d’éducation. Ainsi soit-il pour faire de la France un Champion de l’IA. La représentation parlementaire a-t-elle vocation à être une chambre d’enregistrement des recommandations politiques d’un entrepreneur-informaticien de 31 ans ? On en regretterait presque la terreur qui règne lors des auditions au Sénat américain ; les Arthur Mensch d’outre-Atlantique que sont les patrons de Meta, X, Snap ou TikTok y passe un moment autrement moins agréable.
Une fois établi que le tapis rouge est déployé à la start-up nation depuis le gouvernement jusqu’au Sénat, intéressons-nous au projet de société dont Arthur Mensch est le promoteur. L’Intelligence Artificielle y fait évidemment figure de panacée : les déserts médicaux en France ? L’IA permet un diagnostic plus efficace du médecin qui n’aurait pas accès à des spécialistes autour de lui. Le manque d’enseignants ? L’IA permet à l’enseignant de donner cours à une classe de 30 élèves plutôt qu’une classe de douze élèves ! L’alternative posée par l’ingénieur est simple « est-ce qu’il vaut mieux avoir un manque (de médecins, d’enseignants) ou est-ce qu’il vaut mieux avoir une application d’IA ? ». Peut-on prétendre à une autre approche politique en matière d’Intelligence Artificielle que celle du solutionniste technologique ? Et où sont les fonctionnaires de la santé et de l’éducation qui ont pour première demande de la part des pouvoirs publics que d’être « augmenté » par des logiciels de verbiage ? Heureusement, deux sénateurs sauvent la face, Fabien Gay d’abord, sénateur PCF de Seine–Saint-Denis, corrige l’entrepreneur, de l’assertion fausse selon laquelle l’Intelligence Artificielle serait neutre par nature et dépendrait de l’usage. Puis, le sénateur PS du Gers, Franck Montaugé, met finalement les pieds dans le plat : « l’IA ne pose-t-elle pas une question morale lorsqu’il s’agit de faire de la santé et de l’éducation sans mettre en vis-à-vis un patient et son docteur, ou un élève et son enseignant (…) Si l’IA doit mettre l’individu exclusivement en présence de technologie pour régler leur problème ou contribuer à leur vie, cela pose pour moi un problème d’ordre moral ».
Cet épisode serait amusant s’il n’était pas une chronique révélatrice de notre époque, et si Mistral IA, la start-up en question n’était pas valorisée plusieurs milliards et considérée comme la pépite européenne de l’Intelligence Artificielle. Le discours de « l’augmentation » par l’IA est présent dans tout l’écosystème du capitalisme numérique. Le moment est venu de se demander sérieusement quel est le modèle de société que nous voulons faire advenir avec l’Intelligence Artificielle, au risque de laisser le monde d’Arthur Mensch s’installer, et nos liens interpersonnels s’appauvrir.
2. Nos vies sans contacts
Notre époque est déjà marquée par un fait sociotechnique total : celui de la « distribution de réalité sensible à domicile », selon l’expression prémonitoire de Paul Valéry. Les écrans règnent en maître sur nos comportements : le vieux primate qui reste en nous ne sait maîtriser une telle puissance d’enchantement. Notre attention et nos systèmes dopaminiques sont court-circuités par les petites vitres éclairées. En conséquence, notre vie en société perd de son épaisseur relationnelle. Il est de moins en moins probable que vous ayez besoin de sortir de chez vous ni d’entendre le son de votre voix pour faire un certain nombre d’activités ordinaires : travailler, faire du sport, faire des courses, payer ses impôts, chercher un emploi, se faire soigner, séduire… Les corps humains sur lesquels reposait il y a encore peu de temps l’intendance de ces occupations parmi les plus triviales de la vie sociale ont été mis à distance par les petites vitres connectées qui se glissent dans notre poche. L’expérience du monde se dépeuple des corps.
La vie « sans contacts » résulte de la dématérialisation de l’économie de service entreprise par le capitalisme numérique. Prenant le relais de l’informatisation et de la numérisation, la révolution de l’Intelligence Artificielle peut affaiblir à plus forte raison encore l’intensité relationnelle de nos vies. Car la révolution technologique en cours marque le tournant anthropomorphique de la technique. L’IA générative, en tant que logiciel qui répond à nos requêtes formulées en langage naturel, est tel un petit cerveau embarqué dans n’importe quel objet (téléphone, ordinateur, télévision, enceinte connectée, voiture, tableau de commande) : elle dote ce même objet du pouvoir de parler et d’exécuter nos commandes vocales. L’ère de l’IA générative correspond donc à la popularisation du « dialogue » avec la machine, des communications écrites ou orales entre humains et non-humains, accentuant inévitablement le délitement des liens sociaux, dès lors que les forces du capital y trouveront une source potentielle de profit. Est-il souhaitable que notre monde soit voué à devenir « sans contacts » ? Comment ne pas voir l’augmentation des problèmes de santé mentale chez les jeunes générations comme l’une des conséquences de cette mise en ligne de nos vies ? Il est temps de prendre toute la mesure des bouleversements phénoménologiques que nous allons connaître si nous laissons faire cette force aveugle qui virtualise tout ce qui fait la substance de notre existence.
Pour discerner le phénomène en cours, il faut selon nous aller sonder « l’échafaudage imaginaire » du capitalisme numérique, selon l’expression du philosophe Cornelius Castoriadis. L’idéologie selon laquelle des algorithmes pourraient « augmenter » ou « remplacer » des sujets au travail est omniprésente dans le discours managérial sur l’IA. Ce discours, dont Arthur Mensch se montre le porte-voix lors de l’audition devant le Sénat, instaure insidieusement une équivalence entre « algorithme » et « sujet » dans une lecture purement économiciste et fonctionnaliste du réel, sans prendre en compte les conséquences politiques ou anthropologiques de l’automatisation. Cette rationalité, qui transforme les organisations productives humaines en des bureaucraties algorithmiques déshumanisées, prend racine dans les catégories de pensées de la cybernétique.
3. La rationalité cybernétique repose sur une fable anthropologique
L’IA est porteuse d’une révolution sociale, nul n’en doute, mais celle-ci n’est pas déterminée par avance. Les formes que prennent les applications et déploiements de l’IA générative dans notre société reposent actuellement sur un imaginaire qu’il faut nommer, et déconstruire. Le philosophe Jean-Michel Besnier posait récemment cette question centrale : « Comment en sommes-nous venus à construire une représentation du robot comme cet équivalent d’un être conscient et, comme tel, comparable à un être social ? »[1]. La comparaison constante entre l’humanité́ et les machines dans les discours promotionnels de l’IA performe actuellement un miroir déformant de la nature humaine. Il nous semble que ce glissement opéré dans nos représentations collectives, concernant ce qui distingue humain et robot, trouve son origine dans un ensemble théorique né au lendemain de la Seconde Guerre mondiale, lors des balbutiements de l’informatique : la cybernétique.
La cybernétique est « la théorie des communications et du contrôle aussi bien dans les êtres vivants, les sociétés et les machines »[2], développée notamment par le mathématicien américain Norbert Wiener au cours des conférences Macy dans la décennie 1945-1955. Pour le fondateur de cette nouvelle science, « bien que les communications humaines et sociales soient extrêmement compliquées en comparaison des formes de communication dans les machines, elles sont sujettes à une même grammaire ». De cette « grammaire » mobilisée par les fondateurs de la cybernétique, procède la rationalité cybernétique qui conçoit les objets techniques et les humains à travers le prisme d’un même système sociotechnique, dessinant ainsi un monde où l’information modèle l’ordre social. La cybernétique place en effet l’information comme l’élément essentiel de la vie sociale. Selon N. Wiener : « Vivre, c’est vivre avec une information adéquate. Ainsi, la communication et la régulation concernent l’essence de la vie intérieure de l’Homme, même si elles concernent sa vie en société »[3].
Le paradigme de cette nouvelle science de l’après-guerre va influencer durablement la philosophie occidentale en produisant ce que la sociologue Céline Lafontaine appelle une représentation informationnelle du sujet. Le sujet est perçu comme un processeur d’information. Le moment cybernétique marquerait également une révolution pour la société sur le plan culturel et économique, avec l’avènement de la société de l’information. Par ailleurs, en tant qu’« art de rendre l’action efficace »[4] la cybernétique produira des concepts centraux pour le management moderne[5].
La rationalité cybernétique est désormais largement diffusée auprès du management d’entreprise et dans l’espace du conseil, inspirant les modèles utopiques d’organisation et façonnant le travail. Le travail est toujours plus rationalisé, à travers des boucles de rétroaction qui font intervenir indistinctement humain ou robot, là où leur place est la plus pertinente au regard du management. Le management algorithmique et la bureaucratisation algorithmique sont les produits de cette rationalité qui désincarne les organisations au profit des liens virtuels et numérisés.
Cette rationalité repose pourtant sur un monstre anthropologique : une vision réductrice de l’humanité́. Les promoteurs de l’IA alimentent les représentations relevant d’une anthropologie de la déficience, produisant une méfiance vis-à-vis du sujet humain comme agent instable, irrégulier, fatigable, biaisé, tous les adjectifs dont les antonymes sont attribués à l’inverse aux technologies anthropomorphiques. Ces discours qui incorporent une équivalence ontologique entre l’humain et la machine, poussent à nous envisager par contraste comme des êtres déficients, inférieurs, honteux de nos limites biologiques et cognitives, qu’il s’agirait d’augmenter grâce à l’IA : « Jusqu’où se laissera-t-on simplifier par les machines dans l’image que nous nous faisons de nous-mêmes ? »[6]
Les échanges interpersonnels auxquels donnent lieu les métiers du service, du soin, de la pédagogie, de l’éducation, et tant d’autres professions encore, ne peuvent se réduire à un échange d’information utilitariste qu’il s’agirait d’automatiser par un robot conversationnel. Le travail revêt une importance fondamentale dans la vie. Outre sa dimension économique, le travail est un lieu de socialisation, d’épanouissement personnel, d’émancipation et de subjectivation pour l’individu. Il est, selon une formule d’Adam Smith, « le fondement et le ciment de l’ordre et du lien social ». Ainsi nous devons nous opposer aux discours qui justifient d’« administrer » ou de « manager » des sujets humains comme on optimiserait un système informatique, et revendiquer à l’inverse le droit d’être considéré comme des sujets politiques et des êtres dotés de sensibilité. Le travail, l’emploi pour être précis, est en réalité, et plus souvent qu’on ne se l’avoue, la forme institutionnalisée répondant à nos besoins primaires d’entrer en relation avec l’autre. L’oublier consisterait à nier notre humanité.
4. Les conséquences politiques de l’organisation cybernétique du travail
L’organisation cybernétique du travail ne conduit pas seulement à des conséquences en ce qui concerne pour le respect de la dignité humaine, elle a des implications politiques de premier ordre. La désincarnation des organisations productives produit une désactivation politique des individus : moins de possibilité d’action ou de mobilisations pour les droits de travailleurs, une raréfaction par définition (« by-design ») des lanceurs d’alertes permettant d’avertir d’éventuelles dérives. Enfin, et non des moindres, cette désincarnation implique l’impossibilité de penser politiquement les modes de production actuels, et par exemple de bifurquer vers une économie décarbonée. En effet, la logique cybernétique qui justifie de déléguer les tâches cognitives aux machines, de mettre à distance le travailleur de la matérialité de son travail, de désincarner les unités de production, produit la perte progressive des savoirs incorporés et politiquement mobilisables. Remplaçant peu à peu des sujets au travail par l’illusion de machines intelligentes dans les organisations : nous perdons notre résilience.
La situation écologique demande au contraire un repeuplement des sujets au travail : une révolution relationnelle au travail est nécessaire en riposte à la bureaucratisation algorithmique. Peut-être que la solution passera par un meilleur partage du temps de travail. Les gains de productivité attendus par la révolution technologique justifient de reprendre le combat de la baisse du temps de travail. Une solution qui permettrait ainsi de répondre aux attentes de la société française, comme l’ont montré Lucie Davoine et Dominique Méda dans leur enquête[7] : si les Français sont les plus nombreux en Europe à déclarer que le travail est important ou très important, ils sont également les plus nombreux à souhaiter le voir occuper moins de place.
Pour conclure, nous invoquerons cette formule du philosophe Gilles Deleuze : « Il est facile de faire correspondre à chaque société des types de machines, non pas que les machines soient déterminantes, mais parce qu’elles expriment les formes sociales capables de leur donner naissance et de s’en servir »[8]. Le monde d’Arthur Mensch, de ses Intelligences Artificielles, et de sa rationalité cybernétique correspond à une société qui a oublié la nature sociale, politique et sensible des êtres humains, sans doute parce que ce sont des ingénieurs de la Silicon Valley qui façonnent le monde. À nous d’inventer les types de machines et les formes sociales qui correspondront à la nouvelle économie sociale et décarbonée, que la cohorte actuelle d’humanité a la responsabilité d’instaurer.
[1]- Le robot, alibi d’une humanité fatiguée d’elle-même, in Qu’est-ce qu’un régime de travail réellement humain ?, Hermann, 2018 [2]- N. Wiener, R. Le Roux, P.-Y. Mistoulon, Cybernétique et société. L’usage humain des êtres humains, Points, 2014 [3]- Ibid. [4]- L. Couffignal, La cybernétique, FeniXX, 1972 [5]- B. Rappin, Une bréve histoire cybernétique du management contemporain, La Revue des Sciences de Gestion, N 293(5), 2018 [6]- Besnier, op. cit. [7]- Place et sens du travail en Europe : une singularité française ?, CEE, 2008 [8]- Post Scriptum sur les sociétés de contrôle, Éditions de Minuit, 1990