Chargement...

L’IA : la quête du bonheur ou l’émergence de l’horreur ?



28 Février 2018

Par Bernard Sesolis - Expert Energie Environnement -

Ces derniers mois, une grande fébrilité et une certaine frénésie sont apparues sous la forme de livres, d’articles, de dossiers, d’émissions sur les médias consacrés à l’intelligence artificielle (IA). Ce sujet abordé en Septembre dans cette humeur incite à poursuivre car il questionne à différents points de vue :

D’abord, en tant qu’usager, l’intelligence artificielle est déjà  présente au quotidien à travers la communication (Internet, réseaux sociaux,…) et les services, notamment ceux utilisant des applications basées sur la communication et les « big data » (centrales d’achats, sécurité, gestions à distance, …). Les spécialistes imaginent une prochaine et profonde modification d‘habiter et de se comporter dans la cité.

Ensuite, en tant que professionnel, l’IA s’insère dans la robotisation afin de remplacer l’humain dans les tâches les plus rudes, les plus répétitives et les plus astreignantes. Elle est aussi en passe de s’insérer dans les outils de décisions, de conception et de gestion. Ainsi, l’omniprésence de l’IA augure un changement radical des métiers. Le bâtiment ne sera pas épargné par ce rouleau compresseur qui va rendre rapidement obsolète certaines professions et transformer l’acte de construire, de rénover, d’exploiter les bâtiments. Des métiers vont disparaître. On n’a peu d’idées des nouveaux métiers de 2030 …

Enfin, en tant que citoyen, l’IA pose la question du fonctionnement des démocraties. Rien que ça !


Toutes ces interrogations incitent à réfléchir à la finalité de cette affaire. Le discours progressiste n’est pas suffisant pour accepter cette « fatalité ». Il est sain de garder une distance face au futur proche sans regretter le passé. C’est un minimum pour agir si besoin …


ia

1 - L’intelligence artificielle au quotidien

Une publicité vous interpelle : « Vous êtes parti en week-end sans enclencher l'alarme ?  La chambre du petit dernier est encore restée allumée ? Vous avez oublié d'éteindre le fer à repasser? ». L’offre est claire. La machine suppléera vos oublis et vous les communiquera au besoin pour vous rappeler combien elle est devenue indispensable. S’il elle est gentille, elle vous laissera le plaisir de corriger vos oublis à distance, histoire de vous offrir une sensation d’ersatz de puissance. Vous serez coaché et vous n’aurez plus de soucis.

Cette dépendance, plus discrète que celle des smartphones ou tablettes, est très pernicieuse. Progressivement, elle nous dépossède de toute action ou de toute sollicitation à notre mémoire pour gérer notre quotidien. Nous serons cocoonés en nous évitant tout effort. L’IA sera censée nous délivrer de toute contingence, de toute action rébarbative. Elle connaîtra toutes nos habitudes, nos marottes, nos turpitudes, notre état de santé et réagira pour nous faciliter le quotidien, pour nous rendre du temps afin que nous puissions créer, nous distraire, travailler plus efficacement, ou ne rien faire dans une ambiance agréable, … Le Paradis ! Son jardin d’Eden, le bâtiment, sera une machine à votre service allant jusqu’à anticiper vos demandes. Le bonheur grâce au numérique et à son fer de lance, l’IA !

Depuis quelques décennies, nous nous sommes habitués à la commande à distance. Aujourd’hui, il paraîtrait saugrenu ou passéiste d’utiliser sa télévision, son store, sa chaîne hifi (pour le ringard que je suis …) sans la commande à distance dotée a minima d’une trentaine de boutons dont la moitié ne sont jamais utilisés. Vautré dans notre canapé, nous pouvons changer de chaînes, monter ou baisser le son, parfois arrêter ou mettre en route un DVD si on est adepte de séries ou cinéphile; nous « zappons ». Cette activité, qui permet sans cesse de passer du coq à l’âne sans effort, nous a habitué à agir à distance, à étendre notre rayon d’action et en quelque sorte, celui de notre pouvoir.
Le zapping est devenu un mode de vie, une manière de consommer des sujets, des objets, du plaisir, du temps. On se lasse plus vite parce qu’on a la possibilité de zapper ! On le constate dans des domaines aussi divers que les hobbies, les amis, les relations affectives. Le monde du travail n’est pas en reste : l’employeur zappe avec les employés. Les emplois précaires, les CDD sont devenus la règle, la doxa de l’économie libérale. L’employé zappe souvent de manière contrainte pour son travail, faute de temps, faute à la productivité. Trop d’informations à digérer pour réaliser sa tâche. Le zapping condamne au « survol », au copié/collé. L’employé a fini par s’habituer à se zapper lui-même.

En tant qu’usager, il nous est proposé (imposé ?) de changer de statut. Le e-commerce, les GAFA et leurs filiales, veulent transformer chaque usager en consommateur unique, singulier. Pour répondre « à la carte » et puisque chacun a des exigences variant dans le temps, il faut connaître en temps réel les demandes, les attentes, les fantasmes. Répondre à une demande très ciblée, voire l’anticiper devient une obsession moderniste des sociétés commerciales pour faire mieux que les concurrentes. C’est l’enjeu des Big Data et de l’IA. Ceux qui auront le plus d’’informations sur chaque individu, sur chaque consommateur potentiel, gagneront.
Vous n’aurez même plus à solliciter des applications ou des moteurs de recherche. Votre smartphone va devenir l’interface unique avec qui vous communiquerez par la voix. Votre « doudou » ou votre « coach », selon votre âge mental, sera mû par un moteur IA qui travaillera pour vous fournir telle information, vous proposer tel objet, tel service, telle « appli »  avec un degré de confiance très élevé car il aura appris à vous cerner. Le monde commercial considère qu’il s’agit d’un progrès considérable qui pourrait nous rendre plus humain ! (1). Cette situation pourrait aussi être vécue comme un embrigadement généralisé, un totalitarisme soft, un coconnage digne du roman « 1984 » d’Orwell !

Les spécialistes et offreurs d’intelligence artificielle sont très partagés sur le futur.


2 - Les courants de pensées sur la pensée des machines IA

Dans un récent dossier du journal Le Monde (2), il est proposé une typologie de cinq manières d’exprimer l’avenir avec l’IA dans les médias :
Certains pionniers, G.Hinton (Google), Y.Le Cun (Facebook), Y.Bengio (Université de Montréal,  le plus gros laboratoire académique sur l’IA), qui sont à l’origine des réseaux de neurones artificiels, pensent que l’IA ne pourra pas dépasser l’esprit d’un enfant de deux ans. J.Schmidhuber (Institut Dalle molle - Suisse) croit au contraire à une IA générale ayant des perceptions super humaines.
Les techno-optimistes, comme M.Zuckerberg (Facebook), D.Hassabis (DeepMind), R.Highs (IBM Watson) sont persuadés qu’une IA éthique et transparente rendra le monde meilleur et accroîtra les moyens de la connaissance.
Les alarmistes militants, qui ne sont pas des chercheurs sur l’IA, ont un point de vue radical. S.Hawking, le célèbre astrophysicien, E.Musk (Tesla, SpaceX), M.Tegmark (cosmologiste au MIT), L.Alexandre (chroniqueur) ou encore Y.N.Harari (historien), sont persuadés de la future hostilité de l’IA à l’encontre de ses créateurs et qu’il faudra agir, soit en créant des garde-fous, soit en fusionnant l’IA et l’homme pour que ce dernier garde le contrôle (de l’augmentation des capacités jusqu’au cyborg).

Les apôtres de la super-intelligence défendent la thèse de la singularité, celle du surpassement de l’homme par l’IA. Une chance, selon R.Kurzweil (spécialiste des sciences cognitives) ou B.Johnson (Kernel), qui permettrait d’ici une trentaine d’années de télécharger son cerveau dans un corps vieilli mais réparé ou dans une machine. Une sorte de vie éternelle ! Goertzel (Hanson Robotics) travaille sur un robot humanoïde doté d’une super-intelligence. Quant à A.Levandowski, ex-Google et Uber, il a carrément fondé une religion vouant un culte à l’IA  (3) ! … No comment !

Enfin les sceptiques et opposants mettent en garde sur les conséquences politiques et sociétales de l’IA. J.G.Ganascia (CNRS) s’amuse des prophètes de l’Apocalypse. M.Benasayag (philosophe) affirme la singularité irréversible du vivant ; en d’autres termes, que le monde n’est pas modélisable avec des « 0 » et des « 1 ». K.Crawford (Microsoft) insiste sur les biais introduits dans les machines intégrées sans assez de précautions suffisantes dans des institutions, rappelant ainsi l’urgence de la définition d’une éthique. S.Russel (Université de Californie) suggère de renoncer à apprendre  aux machines à devenir « intelligentes » pour garder le contrôle.

Intuitivement, ces cinq visions semblent détenir chacune une part de vérité, une part d’irresponsabilité, une part de délire … Sacré cocktail ! Entre promesses et périls, il faut se recentrer sur le principal intéressé, revenir aux principes humanistes.

 

3 - Mais que fait l’éthique ?

La responsabilité, le droit, la morale, le devoir sont des questions à revisiter avec l’avènement de l’IA et de son prodigieux développement. Se fonder sur elle pour des tâches dites critiques (choix, décisions, jugements, ...) sans réellement comprendre comment elle les traite, pose la question de l’éthique. Le philosophe Eric Sadin dans une récente lettre adressée au Monde (4) nous met en garde en précisant que la caractérisation de l’IA est l’extension d’un ordre faisant de chaque énonciation de la « vérité », l’occasion d’engager des actions. La moindre occurrence du réel est analysée en vue d’être monétisé, orienté à des fins essentiellement utilitaristes.
Certains s’interrogent sur les limites à fixer (5) :
Plusieurs initiatives émanant des acteurs de l’IA ont démarré depuis peu. Dès fin 2015, « Open AI » créé par E. Musk et P.Thiel (ex-Paypal et Facebook) tente de définir les chemins de développement menant à la sécurité. Fin 2016, « Partnership on AI », créé par Google, Amazon, Apple, IBM et Microsoft,  poursuit le but de proposer les bonnes pratiques en matière d’IA. Fin 2017, l’IEEE (6) a publié son 2ème rapport « design éthique » où sont évoqués 13 problèmes majeurs à régler. Entres autres, la, sécurité des systèmes, la protection de la vie privée, le contrôle des armes autonomes, les conséquences sur l’emploi, … Après un colloque à l’Université de Montréal organisé en Novembre 2017, une déclaration en 7 principes rassemblait les souhaits pour l’avenir de l’IA, parmi lesquels : le respect de tous les êtres sensibles à la douleur, la promotion de la pensée critique pour se prémunir contre toute manipulation, la possibilité de mesurer le bien apporté. La transparence des algorithmes et la protection des données personnelles sont des sujets présents dans d’autres déclarations comme celle de Future of Life Institute créé en Janvier 2017 par plusieurs scientifiques, ou par la CNIL dans son dernier rapport du 15/12/2017.

Bref, ça avance … Mais comment et par qui ? Eric Sadin reste dubitatif (4). Pour lui, dès qu’on brandit l’éthique comme un étendard, celle-ci devient un vague fourre-tout qui finalement ne se concentre que sur la question sans cesse ressassée de la protection des données personnelles. Il conclut qu’il devient « urgent de ne plus laisser la parole aux seuls évangélistes de l’automatisation du monde et de saisir que, du degré de l’exercice de notre faculté de jugement à toutes les échelles de la société, dépendra l’émergence d’une civilisation, soit toujours plus pilotée par des systèmes normatifs, soit conduite par des individus libres de décider en conscience et dans la pluralité du cours de leur destin ».

Pour l’instant, un rapport publié le 20 Février 2018 par 26 experts mondiaux de l’IA (7) donne la chair de poule.

Pour eux, l’IA ouvre des portes béantes aux escrocs, aux hackeurs, … et aux terroristes. Pour que l’IA ne tombe pas du côté obscur de la Force, pour enquêter, prévenir et limiter les usages malveillants, les auteurs de ce rapport préconisent une plus grande collaboration entre les pouvoirs publics et les chercheurs. Ils rejoignent ainsi la position d’Eric Sadin sur la dimension éminemment politique du problème.
Mais de quels pouvoirs publics parle-t-on ? Quels sont les politiques ayant suffisamment d’influence sur les GAFA qui, dans leur coin, comptent définir les « bonnes pratiques » ?
La communauté internationale (concept ô combien vague, voire sans réalité) a-t-elle son mot à dire ? Les Etats n’ont pas les moyens d’infléchir quoi que ce soit, sauf leur propre protection, … et encore !

Alors quoi faire, face à ce scénario pessimiste évoquant un peu le mythe du Golem ?

 

4 - Jouons collectif !

Un groupe de réflexions propose une alliance entre l’intelligence collective et l’intelligence artificielle (8). Pour eux, une réflexion nationale sur l’IA est un piège politique. Ils font allusion au rapport attendu de Cédric Villani, rejoignant ainsi les propos précédents.
Leur constat est que l’IA seule conduit soit aux thèses solutionistes, soit aux transhumanismes. L’intelligence collective a conduit et conduit encore aux antithèses capitaliste et communiste, seuls schémas politiques et économiques hérités des deux siècles précédents.
Dès les découvertes, l’invention et le développement des techniques, les contributeurs se sont disputé l’antériorité, la propriété, le leadership engendrant des situations de blocage, d’impasse, de crainte du chômage, du tout-numérique insaisissable, de la fuite des cerveaux, de la perte de régulation, de souveraineté, …
L’IA en soi ou l’IA + l’éthique mène tout droit vers ces penchants. En revanche, une synthèse entre l’intelligence collective et l’IA, au-delà des GAFA et consorts, au-delà des nations, est non seulement possible, mais déjà réelle à travers des expériences :
Coordonner les automobilistes pour accroître la sécurité routière, partager des images médicales, améliorer la prévention du risque, accroître la coopération entre maîtres et élèves, mesurer sur des plates-formes décentralisées la valeur de chaque contribution, c’est sortir du travail gratuit fourni par les utilisateurs au seul profit des GAFA, …

On en revient également aux initiatives locales utilisant les réseaux numériques, voire l’IA, qui détournent ces technologies pour les propres besoins des acteurs directement concernés. On en revient à ce qui devient nos cœurs de métier, les relations bâtiments/développement urbain, villes/ territoires d’une complexité inédite, très largement multifonctions, nécessitant une approche holistique.
L’IA au service d’une démarche partagée pour allier la frugalité et le bien-être … Tout un programme qui squeeze la stratégie purement marketing teintée de bonne conscience des sociétés supranationales.
Cessons de rêver !

Trop de choses à dire encore sur l’IA. D’autres humeurs reviendront prochainement sur ce sujet crucial. Il sera question des possibilités actuelles de l’IA, de l’évolution des pratiques professionnelles, des conséquences sur l’emploi.
En attendant, vous pouvez vous abreuver d’une grande quantité de sources papier ou internet sur le sujet ; je vous conseille un très bon hors-série de Libération « voyage au cœur de l’IA » (Décembre 2017- Février 2018).

Bonne lecture !

Bernard SESOLIS
Expert Energie Environnement



 

  1. « Le seigneur des robots » - Arnaud de Lacoste, Edition Débats publics - 09/2017
  2. Dossier « L’IA : promesses et périls – cinq façons d’envisager la pensée des machines » - Le Monde - 21 Décembre 2017
  3. « Le culte du dieu robot » - Le Monde - 1er Décembre 2017 - Corinne Lesnes
  4. « IA : résistons à la main invisible automatisée » - Le Monde - 23 Février 2018 - Eric Sadin, auteur de « La silicolonisation du monde : L’irrésistible expansion du libéralisme économique » - Edition l’Echappée - 2016.
  5. Dossier « L’IA : promesses et périls – La course à l’éthique est lancée » - Le Monde - 21 Décembre 2017 -  David Larousserie
  6. L’Institut des Ingénieurs en Electricité et Electronique, la plus grande société savante actuelle dans le domaine
  7. « Gare au dévoiement de l’IA » - Le Monde - 23 Février 2018 - Morgane Tual
  8. Dossier « L’IA : promesses et périls – N’oublions pas l’intelligence collective », Le Monde, 21 Décembre 2017 - Vincent Lorphelin (entrepreneur), Christian Saint Etienne (économiste), Denis Jacquet (observatoire de l’Ubérisation), Fabrice Imbault (A+ Finance), Jean-Paul Betbèze (économiste), Jean-Philippe Robé (avocat d’affaires)

 

 

 


Commentaires

Aucun commentaire actuellement, soyez le premier à participer !

LAISSER UN COMMENTAIRE

ABONNEZ-VOUS !
Ce site respecte strictement la réglementation RGPD sur les données personnelles. Pour connaitre et exercer vos droits, vous pouvez consulter notre politique de confidentialité
Reférencement gratuit

Référencez gratuitement votre société dans l'annuaire