Une question de visions et de valeurs

L’intelligence artificielle nous transforme
Année 2018 - Revue n°479

Comment l’intelligence artificielle va-t-elle transformer le travail, les organisations, la société ? La réponse dépend beaucoup moins du progrès des techniques que de l’évolution de plusieurs rapports de forces. Entre les acteurs et les valeurs qui les animent ; et, encore plus déterminant, entre des visions divergentes de ce que sont l’intelligence, le travail, le rôle de l’homme dans la création de valeur.

Tout d’abord, écartons les discours mystificateurs sur la prétendue singularité technologique1, clairement analysés par Jean-Gabriel Ganascia2. Ils reposent sur une vision erronée de notre intelligence et des capacités d’une machine. Ils nous annoncent pour bientôt des machines pensantes et plus intelligentes que l’homme, nous menacent d’une prise de pouvoir des robots tout en nous promettant l’immortalité.

Les machines ne pensent pas

L’expression « intelligence artificielle » (IA) abuse du mot « intelligence ». Elle recouvre un ensemble de techniques capables de résoudre des problèmes que nous traitons, nous humains, en usant de nos capacités de mémorisation, de raisonnement, de création. Mais les machines ne pensent pas et n’ont pas de conscience. L’IA exploite essentiellement l’explosion des capacités de calcul, de mémorisation pour traiter de façon statistique des masses de données et en tirer des conclusions souvent exploitables.

Ces machines sont maintenant apprenantes, adjectif anthropomorphique, lui aussi trompeur, qui signifie qu’elles deviennent plus efficaces au fur et à mesure qu’elles moulinent de nouvelles données. C’est ce que l’on appelle le deep learning. Ainsi l’IA a-telle fait de très grands progrès dans la reconnaissance de la parole, non pas en s’appuyant sur les connaissances explicatives de la linguistique mais en exploitant mécaniquement les statistiques et en établissant des corrélations. De même, des diagnostics médicaux de plus en plus justes sont obtenus, mais sans que la machine soit capable d’expliquer les causes de ce qu’elle signale. Elle fait là aussi des corrélations, pas des raisonnements. Or, « corrélation n’est pas raison » beaucoup l’oublient ou font semblant de l’ignorer. Aussi, Jean-Gabriel Ganascia répète-t-il que la singularité relève d’une fable ne reposant sur aucune démarche scientifique. Fable dissimulant sans doute les vraies ambitions d’entreprises comme Google. Jean-Gabriel Ganascia souligne également que l’IA ne saurait prétendre être objective : il y a une « connaissance implicite cachée derrière la formulation des données que l’on utilise, autrement dit, des dogmes que l’on entre, par-devers soi, dans les machines »3. Pour profiter plus intelligemment des propositions de l’IA et pour échapper aux éventuels pièges des auteurs de programmes, il est important de vérifier la qualité, la pertinence des données traitées et de comprendre ce qu’impliquent les algorithmes utilisés. Les algorithmes et les machines n’ont pas d’intentions, ni bonnes, ni mauvaises, mais ceux qui les produisent peuvent chercher à nous induire en erreur et à nous manœuvrer.

Nous avons tous quotidiennement recours à l’IA, dès que nous ouvrons notre téléphone portable, consultons le GPS, utilisons un assistant vocal pour donner une consigne, procédons à une recherche sur Google, recourons à Deepl ou un autre traducteur automatique, à des assistants personnels intelligents… L’IA est évidemment précieuse lorsqu’elle sert à augmenter la mobilité des malvoyants grâce au premier GPS assistant sonore et aux cannes blanches « intelligentes » détectant et annonçant les obstacles4. On ne peut qu’approuver l’usage de l’IA dans le casque acoustique sélectif de la jeune pousse française Orosound : les bruits ambiants d’un local sont masqués, mais pas la voix de la personne avec qui l’on s’entretient. Des questions se posent lorsque l’IA remplace l’opérateur humain. Certes, cela peut être pour l’aider, lui éviter des tâches pénibles, dangereuses, ou qu’il ne saurait accomplir. Des vies humaines ont été épargnées grâce aux 4 000 caméras Blaxtair de la société parisienne Arcure, déjà à l’œuvre dans le monde depuis sept ans. Installées sur les engins industriels mobiles, elles identifient les personnes sur leur trajectoire et évitent des accidents. Le conducteur d’une pelleteuse a ainsi la possibilité de concentrer toute son attention sur la manipulation délicate du lourd godet. Mais reconnaissance et synthèse de la parole font que nos interlocuteurs, lorsque nous appelons une entreprise, une administration, sont de plus en plus des robots parlants, agents conversationnels ou chatbots, disponibles jours et nuits. Amazon, Google, Apple nous proposent d’installer chez nous des haut-parleurs intelligents ou enceintes connectées. Nous pouvons leur dire ce que nous désirons : ces enceintes règlent aussitôt les appareils connectés de notre appartement, nous fournissent la musique demandée, passent des commandes... Amazon a aussi ouvert plusieurs magasins entièrement automatisés, éliminant le personnel humain. Cela amène évidemment à s’interroger sur le sens de tout cela et ses conséquences globales sur la place et le sort des hommes. Mais voyons d’abord un problème d’organisation et de mentalités.

Aider ou remplacer l’homme ?

L’IA analyse, en temps réel, des situations et prévoit leurs évolutions, pour optimiser le fonctionnement d’appareils ou d’usines, d’entreprises entières, voire de territoires ; elle assure la maintenance prédictive des équipements. Cela implique le recueil d’un grand nombre de données et leur mise en commun. Mais pour faire un pot commun avec les informations recueillies dans différents services d’une entreprise ou d’une administration, il faut que ces données soient cohérentes, qu’elles aient partout la même définition, le même classement. Il faut aussi que les acteurs acceptent de les partager, ce qui est loin d’être toujours le cas. Pour que les possibilités du numérique et, en particulier, de l’IA soient bien exploitées, on a besoin d’organisations moins cloisonnées et favorisant les collaborations entre personnes et services.

Arrivons-en à la place de l’homme. Le fait de disposer, à chaque instant, d’une analyse de la situation d’un équipement, d’un atelier, fournit à la direction centrale une vision globale. Les hommes de terrain ont les moyens d’intervenir très rapidement pour corriger ou améliorer le fonctionnement d’une machine, éviter un incident. Les opérateurs humains peuvent être délivrés de tâches répétitives, dangereuses pour eux ou leur environnement, et se concentrer sur ce que la machine ne saurait faire : avoir des idées créatives, construire des relations riches avec des collègues, des partenaires, des clients. C’est vrai aussi en médecine : Axel Kahn explique que l’ordinateur va diagnostiquer plus vite et mieux que le médecin, mais que celui-ci restera indispensable pour la « bisou-thérapie », c’est-à-dire la construction d’une relation empathique avec le patient, facteur désormais reconnu de guérison.

Court ou long terme ?

Or, une autre option est non seulement possible mais déjà fréquemment choisie par les décideurs économiques et politiques. Si l’objectif de ceux-ci est de faire du profit à court terme par un maximum d’économie, ils vont éliminer les personnels humains chaque fois qu’une machine pourra les remplacer. Cette option sacrifie l’avenir, car la créativité et l’empathie du personnel humain restent irremplaçables pour entretenir des relations durables avec les clients, les fournisseurs, et pour imaginer les innovations qui permettront à l’entreprise de se développer demain. Des études ont prouvé que les entreprises qui investissent à long terme créent sur dix ans non seulement plus d’emplois mais plus de capitaux et plus de bénéfices en Bourse5. Les choix court-termistes qui guident le cost-killing sont donc suicidaires. Mais des actionnaires peuvent les imposer, s’ils comptent se désengager avant que l’entreprise ne meure. C’est ainsi qu’en octobre 2017, le distributeur Sears-Canada a été mis en faillite par son actionnaire américain : celui-ci avait imposé de maintenir au plus haut niveau les dividendes, l’empêchant d’innover face à la concurrence d’Amazon. Un an après, c’est tout le groupe Sears qui s’est écroulé, illustrant le désastre mondial de la grande distribution. Celle-ci est trop pressée d’éliminer ses caissières au lieu de leur confier des tâches nouvelles dans le cadre d’une réinvention des grandes surfaces. Pour survivre, elles doivent reconstruire leur attractivité face aux offres automatisées d’Amazon ou Alibaba.

Les valeurs des dirigeants des sociétés et de la société auront donc un effet déterminant dans l’évolution du travail et des organisations. Si, en matière de santé, l’objectif de l’Etat sera de faire un maximum d’économies, le citoyen moyen ne bénéficiera pas de la bisou-thérapie décrite par Axel Kahn ; il devra se contenter de rendez-vous encore plus expéditifs ou même de consultations en ligne avec des automates. Quelques privilégiés se payeront les services de médecins humains aidés par l’IA.

La question centrale est donc hautement politique : quelle société voulons-nous ? Pour qui faut-il que soit créée de la valeur ? Pour quelques-uns ou pour le bien commun ? Cependant, l’option n’est pas que politique. Ce serait trop simple. Elle dépend également de la vision que l’on a de l’économie, de l’Homme et de son rôle dans le travail.

La souffrance, fatalité du travail ?

Le modèle ultra-financier, qui conduit à gérer les actions en Bourse des entreprises au mépris de leur avenir et des hommes qui y travaillent, s’est imposé, depuis quarante ans, dans la majorité des esprits des dirigeants occidentaux, y compris de gauche. Des Prix Nobel d’économie comme Richard Thaler6 ont beau démontrer que les théories économiques des prétendus experts sont grossièrement fausses : les hommes ne sont pas des robots « rationnels » mesurant tous leurs bonheurs de la même façon, uniquement en dollars. Rien n’y fait, ce sont ces experts-là qu’écoutent la majorité des responsables politiques de gauche et de droite, dès qu’ils sont aux manettes. Cette vision perverse de l’économie et de l’entreprise va légitimer l’exploitation de l’IA contre les opérateurs humains. Pire encore, droite, gauche, syndicats ont partagé pendant des décennies la même conception du travail, considérant sa pénibilité comme nécessaire à son efficacité. Lénine admirait le taylorisme et Staline l’a imposé sous une forme durcie, le stakhanovisme.

Ce credo explique le retour du taylorisme qu’Hervé Sérieyx et moi dénonçons depuis des années7. Déjà François Dalle8, il y a plus de trente ans, stigmatisait la taylorique, mariage de la productique et du taylorisme. Dans cette optique l’IA servira dans bien des sociétés et administrations à contrôler non seulement les machines mais les travailleurs, à les transformer encore plus en robots. Les directions des ressources humaines y seront déshumanisées. Les décideurs s’effaceront de plus en plus devant l’alibi de « l’ordinateur a dit ». Ils n’assumeront plus leurs responsabilités, au lieu d’interpréter les propositions de l’IA en fonction de leur expérience et de leur intuition personnelle, ce qui implique du courage. Ces démissions conduiront à des faillites, des désastres économiques, au prix de beaucoup de souffrance humaine.

Des organisations respectant l’homme

L’ancien résistant et syndicaliste italien Bruno Trentin déplorait que la gauche ait accepté, comme une fatalité, une rationalisation du travail imposant à l’homme souffrance et privation de liberté. Son invitation « à remettre la liberté humaine au cœur du travail »9 est plus actuelle que jamais, car le travail producteur de valeur ne se mesure plus en heures, il est fait de créativité, de volonté à mettre en œuvre le savoir-faire personnel et de capacité à travailler avec d’autres partageant le même objectif. Aussi les entreprises efficaces, celles qui se développeront demain, exploiteront l’IA non pour éliminer l’homme mais pour valoriser à tous les niveaux hiérarchiques ses capacités irremplaçables. Des entreprises à hiérarchie aplatie favoriseront les initiatives, les collaborations internes et externes, les prises de décision selon le principe de subsidiarité, le plus près possible du terrain ; les managers, les chefs d’équipe réinventeront leurs rôles en devenant des animateurs, des aides, tout en demeurant les gardiens du cap vers des objectifs ayant du sens pour chacun et définis collectivement. Ce modèle d’entreprise existe depuis des siècles, il est simplement devenu plus pertinent que jamais comme le démontrent, par exemple, la croissance durable du Groupe Hervé ou le développement foudroyant, aux Pays-Bas, de l’association d’équipes autonomes d’infirmières Buurtzorg10. Beaucoup d’études sur la pénétration de l’IA montrent que ses exploitations sont d’autant plus efficaces qu’une direction assure leur cohérence compte tenu des objectifs stratégiques, tout en laissant la liberté aux acteurs de terrain de prendre des initiatives non planifiées, pour une progression par essais et erreurs.

Géants du numérique, Etats autoritaires et crime organisé

Cependant, ces différentes options qui, pour simplifier, opposent court et long terme, profits particuliers ou bien commun, s’inscriront dans un contexte où d’autres acteurs se battent pour exploiter à leur façon des possibilités ouvertes par l’IA. Jean-François Soupizet et moi avons repéré pour Futuribles trois catégories de ces acteurs : les géants américains et chinois du numérique, les Etats autoritaires et le crime organisé11.

Les géants du numérique disposent d’un atout puissant, ils nous suivent à partir des données que nous générons tout au long de la journée. Ils sont en train d’étendre leurs activités dans tous les secteurs, santé, assurances, banques, commerces, mobilité… affrontant et souvent détruisant des acteurs classiques, surtout ceux qui misent sur des profits immédiats et dégradent leur intelligence collective. Certains géants iront plus loin et abuseront de leur maîtrise des données pour prendre le contrôle de nos décisions et de nos actes, en nous trompant, en nous faisant croire que nous agissons dans notre intérêt.

Ce servage numérique, que nous avons baptisé « panoptique numérique », séduit des Etats totalitaires. La Chine est en train, avec l’aide de ses sociétés de commerce en ligne, de mettre en place une notation de tous ses citoyens pour laisser les « bons » bénéficier de certains avantages et punir les autres. Quant au crime organisé et aux mafias, cela fait des années qu’ils pratiquent des chantages aux cyber-attaques. L’IA peut les aider à déclencher des désastres majeurs.

Dans ce contexte, la seule attitude de raison consiste à promouvoir des visions et des politiques de long terme, des entreprises et des administrations respectant et valorisant les hommes, le tout avec une mobilisation citoyenne renforçant l’Etat de droit pour le bien commun. C’est la seule option réaliste et porteuse d’espoir.

1 : Ensemble d’hypothèses selon lesquelles l’intelligence artificielle aboutirait à une super-intelligence dépassant largement celle des hommes. Les machines prendraient le contrôle de la société, mettant les humains en péril.

2 : Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle ?, Seuil 2017

3 : Interview par Hugues de Jouvenel, le 18 septembre 2017, cf.
www.futuribles.com/fr/document/lintelligence-artificielle-les-raisons-de...

4 : Conçues par Gosense, petite entreprise lyonnaise.

5 : A.-Y. Portnoff, « Le court-termisme progresse aux dépens des résultats note de veille, avril 2017, Futuribles.
www.futuribles.com/en/article/le-court-termisme-progresse-aux-depens-des...

6 : Richard H. Thaler, Misbehaving, Seuil, 2018.

7 : Hervé Sérieyx, André-Yves Portnoff, Aux Actes, citoyens, Maxima, 2011

8 : François Dalle, Jean Bounine, Pour développer l’Emploi, rapport au ministre des affaires sociales et de l’emploi, Masson, 1987.

9 : Cf. La Cité du travail : La gauche et la crise du fordisme, Fayard, 2012.

10 : André-Yves Portnoff, « Management de la santé : la démonstration Buurtzorg », note de veille, janvier 2017, Futuribles,
www.futuribles.com/ en/article/management-de-la-sante-la-demonstration-buurtzorg/

11 : A.-Y. P., J.-F. S., « Intelligence artificielle : opportunités et risques », Futuribles n°426, pp. 5-26, sept.-oct. 2018.

Partager