L’IA : la quête du bonheur ou l’émergence de l’horreur ?

Une publicité vous interpelle : « Vous êtes parti en week-end sans enclencher l'alarme ?  La chambre du petit dernier est encore restée allumée ? Vous avez oublié d'éteindre le fer à repasser? ». L’offre est claire. La machine suppléera vos oublis et vous les communiquera au besoin pour vous rappeler combien elle est devenue indispensable. S’il elle est gentille, elle vous laissera le plaisir de corriger vos oublis à distance, histoire de vous offrir une sensation d’ersatz de puissance. Vous serez coaché et vous n’aurez plus de soucis.

Cette dépendance, plus discrète que celle des smartphones ou tablettes, est très pernicieuse. Progressivement, elle nous dépossède de toute action ou de toute sollicitation à notre mémoire pour gérer notre quotidien. Nous serons cocoonés en nous évitant tout effort. L’IA sera censée nous délivrer de toute contingence, de toute action rébarbative. Elle connaîtra toutes nos habitudes, nos marottes, nos turpitudes, notre état de santé et réagira pour nous faciliter le quotidien, pour nous rendre du temps afin que nous puissions créer, nous distraire, travailler plus efficacement, ou ne rien faire dans une ambiance agréable, … Le Paradis ! Son jardin d’Eden, le bâtiment, sera une machine à votre service allant jusqu’à anticiper vos demandes. Le bonheur grâce au numérique et à son fer de lance, l’IA !

Depuis quelques décennies, nous nous sommes habitués à la commande à distance. Aujourd’hui, il paraîtrait saugrenu ou passéiste d’utiliser sa télévision, son store, sa chaîne hifi (pour le ringard que je suis …) sans la commande à distance dotée a minima d’une trentaine de boutons dont la moitié ne sont jamais utilisés. Vautré dans notre canapé, nous pouvons changer de chaînes, monter ou baisser le son, parfois arrêter ou mettre en route un DVD si on est adepte de séries ou cinéphile; nous « zappons ». Cette activité, qui permet sans cesse de passer du coq à l’âne sans effort, nous a habitué à agir à distance, à étendre notre rayon d’action et en quelque sorte, celui de notre pouvoir.
Le zapping est devenu un mode de vie, une manière de consommer des sujets, des objets, du plaisir, du temps. On se lasse plus vite parce qu’on a la possibilité de zapper ! On le constate dans des domaines aussi divers que les hobbies, les amis, les relations affectives. Le monde du travail n’est pas en reste : l’employeur zappe avec les employés. Les emplois précaires, les CDD sont devenus la règle, la doxa de l’économie libérale. L’employé zappe souvent de manière contrainte pour son travail, faute de temps, faute à la productivité. Trop d’informations à digérer pour réaliser sa tâche. Le zapping condamne au « survol », au copié/collé. L’employé a fini par s’habituer à se zapper lui-même.

En tant qu’usager, il nous est proposé (imposé ?) de changer de statut. Le e-commerce, les GAFA et leurs filiales, veulent transformer chaque usager en consommateur unique, singulier. Pour répondre « à la carte » et puisque chacun a des exigences variant dans le temps, il faut connaître en temps réel les demandes, les attentes, les fantasmes. Répondre à une demande très ciblée, voire l’anticiper devient une obsession moderniste des sociétés commerciales pour faire mieux que les concurrentes. C’est l’enjeu des Big Data et de l’IA. Ceux qui auront le plus d’’informations sur chaque individu, sur chaque consommateur potentiel, gagneront.
Vous n’aurez même plus à solliciter des applications ou des moteurs de recherche. Votre smartphone va devenir l’interface unique avec qui vous communiquerez par la voix. Votre « doudou » ou votre « coach », selon votre âge mental, sera mû par un moteur IA qui travaillera pour vous fournir telle information, vous proposer tel objet, tel service, telle « appli »  avec un degré de confiance très élevé car il aura appris à vous cerner. Le monde commercial considère qu’il s’agit d’un progrès considérable qui pourrait nous rendre plus humain ! (1). Cette situation pourrait aussi être vécue comme un embrigadement généralisé, un totalitarisme soft, un coconnage digne du roman « 1984 » d’Orwell !

Les spécialistes et offreurs d’intelligence artificielle sont très partagés sur le futur.

Dans un récent dossier du journal Le Monde (2), il est proposé une typologie de cinq manières d’exprimer l’avenir avec l’IA dans les médias :
Certains pionniers, G.Hinton (Google), Y.Le Cun (Facebook), Y.Bengio (Université de Montréal,  le plus gros laboratoire académique sur l’IA), qui sont à l’origine des réseaux de neurones artificiels, pensent que l’IA ne pourra pas dépasser l’esprit d’un enfant de deux ans. J.Schmidhuber (Institut Dalle molle - Suisse) croit au contraire à une IA générale ayant des perceptions super humaines.
Les techno-optimistes, comme M.Zuckerberg (Facebook), D.Hassabis (DeepMind), R.Highs (IBM Watson) sont persuadés qu’une IA éthique et transparente rendra le monde meilleur et accroîtra les moyens de la connaissance.
Les alarmistes militants, qui ne sont pas des chercheurs sur l’IA, ont un point de vue radical. S.Hawking, le célèbre astrophysicien, E.Musk (Tesla, SpaceX), M.Tegmark (cosmologiste au MIT), L.Alexandre (chroniqueur) ou encore Y.N.Harari (historien), sont persuadés de la future hostilité de l’IA à l’encontre de ses créateurs et qu’il faudra agir, soit en créant des garde-fous, soit en fusionnant l’IA et l’homme pour que ce dernier garde le contrôle (de l’augmentation des capacités jusqu’au cyborg).

Les apôtres de la super-intelligence défendent la thèse de la singularité, celle du surpassement de l’homme par l’IA. Une chance, selon R.Kurzweil (spécialiste des sciences cognitives) ou B.Johnson (Kernel), qui permettrait d’ici une trentaine d’années de télécharger son cerveau dans un corps vieilli mais réparé ou dans une machine. Une sorte de vie éternelle ! Goertzel (Hanson Robotics) travaille sur un robot humanoïde doté d’une super-intelligence. Quant à A.Levandowski, ex-Google et Uber, il a carrément fondé une religion vouant un culte à l’IA  (3) ! … No comment !

Enfin les sceptiques et opposants mettent en garde sur les conséquences politiques et sociétales de l’IA. J.G.Ganascia (CNRS) s’amuse des prophètes de l’Apocalypse. M.Benasayag (philosophe) affirme la singularité irréversible du vivant ; en d’autres termes, que le monde n’est pas modélisable avec des « 0 » et des « 1 ». K.Crawford (Microsoft) insiste sur les biais introduits dans les machines intégrées sans assez de précautions suffisantes dans des institutions, rappelant ainsi l’urgence de la définition d’une éthique. S.Russel (Université de Californie) suggère de renoncer à apprendre  aux machines à devenir « intelligentes » pour garder le contrôle.

Intuitivement, ces cinq visions semblent détenir chacune une part de vérité, une part d’irresponsabilité, une part de délire … Sacré cocktail ! Entre promesses et périls, il faut se recentrer sur le principal intéressé, revenir aux principes humanistes.

La responsabilité, le droit, la morale, le devoir sont des questions à revisiter avec l’avènement de l’IA et de son prodigieux développement. Se fonder sur elle pour des tâches dites critiques (choix, décisions, jugements, ...) sans réellement comprendre comment elle les traite, pose la question de l’éthique. Le philosophe Eric Sadin dans une récente lettre adressée au Monde (4) nous met en garde en précisant que la caractérisation de l’IA est l’extension d’un ordre faisant de chaque énonciation de la « vérité », l’occasion d’engager des actions. La moindre occurrence du réel est analysée en vue d’être monétisé, orienté à des fins essentiellement utilitaristes.
Certains s’interrogent sur les limites à fixer (5) :
Plusieurs initiatives émanant des acteurs de l’IA ont démarré depuis peu. Dès fin 2015, « Open AI » créé par E. Musk et P.Thiel (ex-Paypal et Facebook) tente de définir les chemins de développement menant à la sécurité. Fin 2016, « Partnership on AI », créé par Google, Amazon, Apple, IBM et Microsoft,  poursuit le but de proposer les bonnes pratiques en matière d’IA. Fin 2017, l’IEEE (6) a publié son 2ème rapport « design éthique » où sont évoqués 13 problèmes majeurs à régler. Entres autres, la, sécurité des systèmes, la protection de la vie privée, le contrôle des armes autonomes, les conséquences sur l’emploi, … Après un colloque à l’Université de Montréal organisé en Novembre 2017, une déclaration en 7 principes rassemblait les souhaits pour l’avenir de l’IA, parmi lesquels : le respect de tous les êtres sensibles à la douleur, la promotion de la pensée critique pour se prémunir contre toute manipulation, la possibilité de mesurer le bien apporté. La transparence des algorithmes et la protection des données personnelles sont des sujets présents dans d’autres déclarations comme celle de Future of Life Institute créé en Janvier 2017 par plusieurs scientifiques, ou par la CNIL dans son dernier rapport du 15/12/2017.

Bref, ça avance … Mais comment et par qui ? Eric Sadin reste dubitatif (4). Pour lui, dès qu’on brandit l’éthique comme un étendard, celle-ci devient un vague fourre-tout qui finalement ne se concentre que sur la question sans cesse ressassée de la protection des données personnelles. Il conclut qu’il devient « urgent de ne plus laisser la parole aux seuls évangélistes de l’automatisation du monde et de saisir que, du degré de l’exercice de notre faculté de jugement à toutes les échelles de la société, dépendra l’émergence d’une civilisation, soit toujours plus pilotée par des systèmes normatifs, soit conduite par des individus libres de décider en conscience et dans la pluralité du cours de leur destin ».

Pour l’instant, un rapport publié le 20 Février 2018 par 26 experts mondiaux de l’IA (7) donne la chair de poule.

Pour eux, l’IA ouvre des portes béantes aux escrocs, aux hackeurs, … et aux terroristes. Pour que l’IA ne tombe pas du côté obscur de la Force, pour enquêter, prévenir et limiter les usages malveillants, les auteurs de ce rapport préconisent une plus grande collaboration entre les pouvoirs publics et les chercheurs. Ils rejoignent ainsi la position d’Eric Sadin sur la dimension éminemment politique du problème.
Mais de quels pouvoirs publics parle-t-on ? Quels sont les politiques ayant suffisamment d’influence sur les GAFA qui, dans leur coin, comptent définir les « bonnes pratiques » ?
La communauté internationale (concept ô combien vague, voire sans réalité) a-t-elle son mot à dire ? Les Etats n’ont pas les moyens d’infléchir quoi que ce soit, sauf leur propre protection, … et encore !

Alors quoi faire, face à ce scénario pessimiste évoquant un peu le mythe du Golem ?

Un groupe de réflexions propose une alliance entre l’intelligence collective et l’intelligence artificielle (8). Pour eux, une réflexion nationale sur l’IA est un piège politique. Ils font allusion au rapport attendu de Cédric Villani, rejoignant ainsi les propos précédents.
Leur constat est que l’IA seule conduit soit aux thèses solutionistes, soit aux transhumanismes. L’intelligence collective a conduit et conduit encore aux antithèses capitaliste et communiste, seuls schémas politiques et économiques hérités des deux siècles précédents.
Dès les découvertes, l’invention et le développement des techniques, les contributeurs se sont disputé l’antériorité, la propriété, le leadership engendrant des situations de blocage, d’impasse, de crainte du chômage, du tout-numérique insaisissable, de la fuite des cerveaux, de la perte de régulation, de souveraineté, …
L’IA en soi ou l’IA + l’éthique mène tout droit vers ces penchants. En revanche, une synthèse entre l’intelligence collective et l’IA, au-delà des GAFA et consorts, au-delà des nations, est non seulement possible, mais déjà réelle à travers des expériences :
Coordonner les automobilistes pour accroître la sécurité routière, partager des images médicales, améliorer la prévention du risque, accroître la coopération entre maîtres et élèves, mesurer sur des plates-formes décentralisées la valeur de chaque contribution, c’est sortir du travail gratuit fourni par les utilisateurs au seul profit des GAFA, …

On en revient également aux initiatives locales utilisant les réseaux numériques, voire l’IA, qui détournent ces technologies pour les propres besoins des acteurs directement concernés. On en revient à ce qui devient nos cœurs de métier, les relations bâtiments/développement urbain, villes/ territoires d’une complexité inédite, très largement multifonctions, nécessitant une approche holistique.
L’IA au service d’une démarche partagée pour allier la frugalité et le bien-être … Tout un programme qui squeeze la stratégie purement marketing teintée de bonne conscience des sociétés supranationales.
Cessons de rêver !

Trop de choses à dire encore sur l’IA. D’autres humeurs reviendront prochainement sur ce sujet crucial. Il sera question des possibilités actuelles de l’IA, de l’évolution des pratiques professionnelles, des conséquences sur l’emploi.
En attendant, vous pouvez vous abreuver d’une grande quantité de sources papier ou internet sur le sujet ; je vous conseille un très bon hors-série de Libération « voyage au cœur de l’IA » (Décembre 2017- Février 2018).

Bonne lecture !

Bernard SESOLIS
Expert Energie Environnement

1. « Le seigneur des robots » - Arnaud de Lacoste, Edition Débats publics - 09/2017
2. Dossier « L’IA : promesses et périls – cinq façons d’envisager la pensée des machines » - Le Monde - 21 Décembre 2017
3. « Le culte du dieu robot » - Le Monde - 1er Décembre 2017 - Corinne Lesnes
4. « IA : résistons à la main invisible automatisée » - Le Monde - 23 Février 2018 - Eric Sadin, auteur de « La silicolonisation du monde : L’irrésistible expansion du libéralisme économique » - Edition l’Echappée - 2016.
5. Dossier « L’IA : promesses et périls – La course à l’éthique est lancée » - Le Monde - 21 Décembre 2017 -  David Larousserie
6. L’Institut des Ingénieurs en Electricité et Electronique, la plus grande société savante actuelle dans le domaine
7. « Gare au dévoiement de l’IA » - Le Monde - 23 Février 2018 - Morgane Tual
8. Dossier « L’IA : promesses et périls – N’oublions pas l’intelligence collective », Le Monde, 21 Décembre 2017 - Vincent Lorphelin (entrepreneur), Christian Saint Etienne (économiste), Denis Jacquet (observatoire de l’Ubérisation), Fabrice Imbault (A+ Finance), Jean-Paul Betbèze (économiste), Jean-Philippe Robé (avocat d’affaires)