Une recette pour la rentrée : l’« IA » ou la smart à la crème

Les sujets de l’été ne manquaient pas : la schyzo-Corée du Nord, Trump et ses décisions en matière climatique …. entre autres (!), les déboires d’EDF avec ses EPR, les cyclones, le jugement de l’escroquerie sur la taxe CO2 qui aura fait perdre 1,5 milliard € à la France, les JO 2024 à Paris, …

Tous ces évènements peuvent être plus ou moins liés au bâtiment ou à la ville. Mais, finalement, je me suis rabattu à nouveau sur la « smartitude » invasive, intrusive, qui rendrait intelligent tout ce qui passe, objets, réseaux, maisons, villes, transports, … L’intelligence artificielle (IA), dorénavant au cœur du « tout smart » est un sujet qu’il ne faut pas laisser qu’aux spécialistes et j’ai pensé qu’un examen sur la question me serait profitable ainsi qu’aux lecteurs de cette humeur aussi peu avertis que moi. Une petite contribution pour nous inciter à approfondir nos réflexions sur ce tsunami technologique …

Le déclencheur de cette humeur a été l’interview de la philosophe Catherine Malabou qui s’intéresse aux neurosciences (1). Elle rappelle que l’intelligence, qu’on pourrait schématiquement définir comme la capacité à donner un sens aux choses, n’a pas d’existence en philosophie. Selon Bergson, on ne peut pas réduire l’intelligence à quelque chose de mesurable. Même les défenseurs du QI savent que ce critère ne concerne que quelques facultés particulières qui ne couvrent pas toutes les facettes de l’intelligence. Les philosophes ne traitent pas l’intelligence, mais plutôt la pensée, la raison, l’intuition, l’esprit, l’entendement.

Catherine Malabou considère que l’intelligence est fortement liée à la plasticité, concept central en neurosciences, qui se résume à la capacité à évoluer, à s’adapter.
Certains, comme Piaget par exemple, considèrent que l’intelligence humaine repose sur des automatismes entre le corps et l’esprit. Le mental ne vieillit pas mais s’adapte par des constructions, des séries d’opérations, des schèmes, à un corps qui, lui, vieillit. Pierre Bourdieu rappelant la pensée de Pascal sur l’inexistence du corps « naturel » et les automatismes de l’Homme, considère que le social s’inscrit dans le corps.
Pendant longtemps, le cerveau humain et la machine ont été différenciés par cette plasticité. Or, les puces synoptiques ou neurones artificiels en sont dorénavant dotés (2) de sorte que la frontière entre l’intelligence naturelle, innée et l’« IA » semble de moins en moins évidente.

Le développement spectaculaire du « deep learning » depuis quelques années a contribué à cette plasticité (3). Les machines utilisent des couches de neurones qui, successivement, vont analyser de plus en plus finement une grande quantité d’informations pour aboutir in fine à des capacités inédites : des reconnaissances très affinées d’images et de sons, donc également leurs reproductions. Et surtout un apprentissage sur ce que la machine construit.

Pour Pierre Beckouche, professeur de géographie-Université Paris 1, l’IA représente une révolution de même ampleur que celles de la sédentarisation, de l’urbanisation, de l’apparition de l’Etat, de l’invention de l’imprimerie, de la naissance de l’industrie, de l’électrification ! (4) (17).

L’évolution de l’IA suscite à la fois le rêve, le progrès et l’angoisse de sa perte de contrôle.

Elle suscite également un emballement industriel qui fait que son évolution dépasse toutes les prévisions. En 1997, le New York Times expliquait que l’IA ne saurait pas jouer au Go avant deux siècles. L’IA a battu le champion du Monde de Go …. en 2016  (5) !
Les « GAFAMI » (6) se livrent à une concurrence technologique impitoyable, par exemple, sur les assistants vocaux pour androïd : Alexa pour Amazon, Siri pour Apple et maintenant Lens pour Google (7).

Le numérique dans le secteur Bâtiment, déjà très présent à travers l’informatique, le BIM, la connexion d’objets en tout genre baptisée pompeusement domotique 2.0, les applications foisonnantes sur smartphones ou la gestion de réseaux électriques, utilise l’IA dans des domaines inédits comme la robotique de chantier, l’impression 3D pour concevoir de manière optimale à partir d’un cahier des charges. L’institut de technologie en architecture à l’école polytechnique fédérale de Zurich (Arch –Techlab) s’est fait un nom en intégrant ces nouveaux sujets dans son enseignement et ses projets de R&D (8).

Alors, faut-il craindre, voire combattre l’IA ou au contraire s’enthousiasmer ? Entre ces deux attitudes opposées, existe-t-il une troisième voie à prétention plus vertueuse, plus raisonnable ?

Source : pepite SC

L’IA nourrit les fantasmes. En particulier celui du dépassement de l’homme qui rendrait l’IA hostile à l’Humanité parce qu’elle finirait par en avoir les moyens. Un des champions de cette vision est Elon Musk, le PDG de Tesla, S’pace X, etc … dont le raisonnement ne repose presque exclusivement qu’à la performance. Selon lui et les adeptes de la « singularité » (9), l’IA va surclasser l’homme et finira par prendre le pouvoir. Sa solution s’articule en deux étapes : tenter d’augmenter les capacités humaines pour garder le pouvoir, et en cas d’échec, se préparer à quitter la Terre pour s’implanter sur la planète Mars dès 2024 !
On pourrait en rire. Mais Elon Musk est sérieux …. et riche. Jusqu’à présent, il est toujours parvenu à réaliser ce qu’il a entrepris. Il vient de créer cette année la société « Neuralink » dont le but est d’augmenter les capacités cérébrales de l’homme à partir d’implants dans le cerveau (10). Il se refuse à trouver des solutions génétiques telle que la modification de l’ADN et préfère une action électronique dans nos petites têtes. Il fustige Larry Page, PDG de Google à qui il reproche de risquer de fabriquer de l’IA hostile sans s’en rendre compte.

D’autres champions du transhumanisme visent à utiliser les technologies NBIC (Nanotechnologie + Biotechnologie + IA + sciences Cognitives) pour des raisons a priori louables (5). Mark Zuckerberg /Facebook veut éradiquer toutes les maladies d’ici 2100 avec un premier financement de 2,6 milliards € en 2016. Bill Gates/Microsoft, qui veut vaincre le cancer avant 2026 (pourquoi cette échéance ??), a créé une unité de recherche de 5 000 chercheurs et ingénieurs sur l’IA. Raymond Kurzweil/Google supervise le centre de recherches « Calico » pour lutter contre le vieillissement.

Les GAFAMI (Google, Amazon, Facebook, Apple, Microsoft et IBM) ont colonisé en 20 ans pratiquement toutes les technologies du vivant. Les concurrents chinois de la Silicon Valley sont juste derrière …. et l’Europe, très loin derrière.
Les GAFAMI sauf Apple ont créé en 2016  le « PartnerShip on AI », groupement destiné à favoriser l’acceptation de l’IA par le grand public.

Une énorme pilule qui risque d’être difficile à avaler telle qu’elle se présente. Jean-Gabriel Ganascia, spécialiste de l’IA (11), professeur à l’Université Paris VI, s’interroge sur les scrupules éthiques des GAFAMI qu’il considère comme des pompiers pyromanes agitant des peurs pour masquer de vrais dangers.
Pour lui, ces peurs sont alimentées par des faits, des hypothèses et de la communication. Par exemple, l’IA conversationnelle de Microsoft, « Tay », n’a fait que deux apparitions sur Twitter les 23 et 30/03/2016 et mis à l’écart en raison de ses propos nazis ! Ceux-ci ont été formulés par apprentissage et mimétisme avec des hackeurs provocateurs qui ont pu facilement pervertir l’IA (12).

Mais comment l’éduquer ? Quelles normes éthiques devrait-on inculquer à l’IA ? Prenons l’exemple de la voiture autonome GoogleCar : après une rupture brutale des freins devant un passage piéton, qui vaut-il mieux écraser ? A droite trois vieillards, à gauche, deux enfants ? On encore, à droite, deux personnes à la peau foncée ? A gauche, des gens avec une kippa ou des femmes voilées ? Le philosophe Nick Bostrom, inspirateur d’Elon Musk, remarque que cela ne sera pas toujours aussi facile de débrancher une IA que cela l’a été pour Microsoft de museler « Tay ». « Comment s’assurer qu’une IA n’apprenne pas à empêcher son interruption ? » s’interrogent deux spécialistes, Laurent Orseau (Deepmind/Google) et Stuart Armstrong (Université d’Oxford-UK) lors de la conférence «  Uncertainly in AI », à New-York fin Juin 2016 (13). Et de conclure que, compte-tenu des avancées de l’IA, il vaut mieux y réfléchir trop tôt que trop tard et cerner les problèmes à l’avance en mettant en relation le monde de l’IA et celui des questions éthiques.

Les apprentissages des machines intègrent une partie des turpitudes de leurs créateurs. L’IA fonctionne en établissant des corrélations à partir d’une très grande quantité de données qui aboutissent à des causalités parfois hâtives, erronées ou éthiquement discutables. Un article de la revue « Sciences » du 14/04/2017 résume les constats de deux chercheurs de Princeton (USA) et de l’Université de Bath (UK) concernant la reproduction des biais humains par l’IA (14).
L’exemple cité concerne le programme « Glove » développé à Stanford et qui équipe les outils de traductions automatiques. Ce programme repose sur une base de milliards de textes issus du web durant 7 ans. Ce système capable de comprendre et de reproduire un langage va également acquérir des associations culturelles, historiques, … La neutralité ou l’objectivité n’existe évidemment pas.
Les approches sur l’IA sont différentes selon les cultures de leurs créateurs. Les modèles pour l’instant sont occidentaux, blancs, hétérosexuels (1) ….
Un programme d’IA, jury d’un concours de beauté organisé en 2016, a éliminé systématiquement toutes les candidates noires ! Imaginons que l’IA soit utilisée pour examiner une demande de prêt, ou sélectionner parmi des CV, ou bien calculer le prix d’une assurance, ou encore, contribuer à prévoir des crimes comme dans certaines villes américaines déjà équipées avec de tels programmes.
Comment auditer et enquêter sur les algorithmes afin de les rendre responsables en cas de problème ? Question difficile étant donné le caractère obscur du deep learning. Emmanuel Mogenet, directeur du laboratoire de recherche Google à Zurich, ouvert en 2016 avec 1300 chercheurs, avoue que « ça marche très bien mais … comme l’alchimie au moyen-âge, ça reste assez empirique » (3). Il ne reste qu’à changer les humains qui implémentent leurs préjugés conclut Sandra Wachter, chercheuse en étique à l’Université d’Oxford …..

Le mathématicien Cédric Villani, chargé par le gouvernement d’établir un rapport sur l’IA fin 2017 afin de faire en sorte qu’elle profite à tout le monde, s’inquiète dans un entretien (15), en évoquant les « Weapons of Math Destructions » (armes de destructions mathématiques) citées par Cathy O’Neil en 2016 qui montre que l’IA profite déjà surtout aux GAFAMI, contribue à la régression sociale, génère des erreurs, utilise massivement le micro-ciblage publicitaire.
Cédric Villani pense que la France a une carte à jouer avec le développement de l’excellence de la formation des chercheurs et ingénieurs sur l’IA. Il oublie simplement que nos têtes bien faites sont déjà parties chez les GAFAMI qui auront toujours les moyens de ne pas payer d’impôts tout en attirant ces nouveaux « excellents » éléments formés grâce aux contribuables français. L’Europe est partie trop tard et n’a ni la volonté politique, ni les moyens chinois pour tenter de rattraper la Silicon Valley.

La philosophe Catherine Malabou déjà citée (1) invite à réfléchir sur l’effacement progressif entre le cerveau et la machine. Elle propose de surmonter les peurs s’appuyant sur l’affectif, à analyser les résistances aux développements de l’IA, car celle-ci offre des possibilités inouïes.
En particulier, les progrès dans les neurosciences grâce aux avancées de l’IA pourraient déboucher sur la compréhension des maladies d’’Alzheimer ou de Parkinson et permettre à terme de les traiter préventivement ou de manière curative.
De récents travaux montrent que notre cortex fonctionne de manière assez analogue à un réseau de neurones artificiels (2) (3). Ces derniers ont la capacité de repérer des invariants dans un magma de données qui pourraient aboutir à la découverte de nouvelles lois physiques ou dans d’autres domaines scientifiques. Stéphane Mallet du département informatique à l’ENS envisage d’éventuels débouchés vers une nouvelle théorie de la connaissance.

Guy Vallencien, professeur de médecine, considère que la distinction entre le cerveau et la machine est irréductible car, contrairement à l’IA, les capacités cognitives de l’homme évoluent sans cesse au contact de l’environnement, y compris les écrans et les machines « intelligentes » qui l’entourent (16), (17). L’intrusion de l’IA en médecine permet des diagnostics de plus en plus sûrs, l’introduction bénéfique de la robotique en chirurgie. Le monde de la médecine évoluera et digèrera les inéluctables modifications des relations sociales et du travail. Pour lui, ces progrès ne s’accomplissent pas sous une menace de la « machine ». Pas de crainte à avoir. L’homme aura le dernier mot … sauf précise-t-il  « l’IA m’inquiétera le jour où un robot rira de bon cœur à l’énoncé d’un jeu de mot inopiné lancé par un clown, ou pleurera de honte d’avoir fait une mauvaise action, tel Judas au jardin des Oliviers ». Implicitement, il pense que ce n’est ni pour demain, ni pour après-demain.

Yann Le Cun (CNRS), un des précurseurs de l’IA et du deep learning, se veut pragmatique face aux alarmistes, et rappelle que le domaine de l'IA a souvent souffert des attentes disproportionnées à son égard. Il espère cette fois que la discipline ne sera pas victime de cette « inflation des promesses » (3).

Le développement de l’IA est inévitable. Nous ferons avec, et a priori, sans condition. Malgré une répartition mondiale des compétences en la matière, c’est la culture des GAFAMI qui s’impose car ces sociétés purement américaines dans leurs choix, leurs manières d’imaginer l’avenir, leur modèle économique, ont les moyens de passer à l’acte, d’acheter toutes les compétences qu’elles souhaitent et ont déjà envahi notre quotidien et notre espace. Elles nous fascinent autant qu’elles nous irritent. Les sociétés chinoises qui ont les moyens de les concurrencer, copient ce modèle, en visant pour l’instant essentiellement leur marché intérieur.
Cette mondialisation est d’abord une perpétuation de l’américanisation du monde. La puissance pétrolière du XXème siècle cède progressivement la place à la puissance numérique du XXIème siècle. Celles-ci sont toujours majoritairement du même côté de l’Atlantique …

Opposer le multilatéralisme culturel à l’hégémonie américaine est vertueux …. sur le papier. Concrètement, il ne faut pas craindre le développement de l’IA, mais nous devons rester lucides et vigilants. 20 milliards d’objets connectés dans deux ans, du smart à toutes les sauces doivent nous enjoindre de savoir ce que nous souhaitons vraiment pour les bâtiments et les villes du futur. Les philosophes doivent se pencher plus avant sur le terrain des neurosciences et il faut introduire une « neuro-critique » constructive à l’école (1).

La question éthique se pose de manière urgente. Comment organiser de manière harmonieuse la cohabitation  de différentes formes d’intelligence, s’interroge Laurent Alexandre (18) qui préconise le développement d’un nouveau métier : éthicien des intelligences.

Pierre Bekouche rappelle à juste titre (4) que l’’évolution de l’IA  « engendre un fort besoin d’unification du récit social et de sens, autant individuel que collectif ». Cette idée vient en écho à, ce que j’ai appelé dans mes humeurs, la superposition des maillages : les réseaux technologiques principalement capitalistiques qui nous sont imposés et les réseaux sociaux de proximité qui tiennent à maîtriser tout leur environnement jusqu’à détourner pour leur propre intérêt les technologies avancées. Une manière peut-être de faire coexister un système économique mondialisé avec des objectifs écologiques et une gestion décentralisée des communautés humaines. C’est peut-être un élément de réponse politique attendue par Catherine Malabou aux problèmes éthiques soulevés par l’IA ….

Bernard SESOLIS

1. « L’intelligence pas si artificielle », émission « La grande table-2ème partie », France Culture, 5 Septembre 2017 -12h55/13h30 …. écoutable en podcast sur le site de France Culture. Catherine Malabou, professeure à l’Université de Kingston (UK), est auteure d’ouvrages sur les rapports de la philosophie aux neurosciences (ex : « Métamorphoses de l’intelligence », Editions PUF),
2. « La révolution des neurones artificiels », dossier Sciences médecine, Le Monde, 11 Janvier 2017, David Lassourrerie
3. « Comment le « deep learning » révolutionne l'intelligence artificielle, Le Monde, 28 Juillet 2015, Morgane Tual
4. « La révolution numérique est-elle un tournant anthropologique, Pierre Beckouche, Le Débat n°193, Février 2017, Gallimard
5. « L’homme 2.0 ou la mort des limites », Le Monde, 12 Octobre 2016, Laurent Alexandre
6. GAFAMI = Google, Apple, Facebook, Amazon, Microsoft, IBM
7. « IA : Google tente de combler son retard », Le Monde, 19/05/2017, Jérôme Martin
8. « Zurich, laboratoire de la robotique architecturale », Le Monde, 14/06/2017, Marina Miller
9.   Comme la singularité d’une fonction algébrique : une rupture, un passage brutal
10. « Elon Musk et l’augmentation cérébrale », Le Monde, 5 Avril 2017, Laurent Alexandre
11. « Le mythe de la singularité. Faut-il craindre l’intelligence artificielle ? », Jean-Gabriel Ganascia, Edition du Seuil -2017
12. « Pourquoi l’IA est raciste », Le Monde, 27 Avril 2016, Laurent Alexandre
13. « Un bouton rouge pour que l’IA ne refuse pas d’obéir à l’homme », Le Monde, 9 Juin 2016, Morgane Tual
14. « L’IA reproduit nos préjugés », Le Monde, 18 Avril 2017, Morgane Tual
15. « Cédric Villani : l’IA peut avoir des effets ravageurs », Le Monde, 11 Septembre 2017, interview de Morgane Tual
16. « Ecce Homo …. artificialis », Guy Vallencien, Le Débat n°193, Février 2017, Gallimard
17. « Les robots, l’IA et le rire de l’homme », Le Monde, 3 Mars 2017, Vincent Giret
18. « Ethicien des intelligences, un métier d’avenir », Le Monde, 28 Juin 2017, Laurent Alexandre