Un joli petit « chat » aussi émouvant qu’invasif

Le 30 Novembre 2022, la société Open AI présentait son agent conversationnel ChatGPT3 en créant l’évènement (le buzz in french), provocant beaucoup d’émois. Open AI, dont un des anciens co-fondateurs est Elon Musk, est une start up qui a développé un « robot » suffisamment bluffant pour que tous les grands acteurs du GAFAM se mettent à rivaliser dans les annonces de leurs propres avancées et projets en matière d’intelligence artificielle (1).

Une occasion de revenir sur ce sujet très fantasmatique qui impacte toute la société et par conséquent, le bâtiment et la ville.

Source petitGoeland.fr

Intelligence, intelligence, vous avez dit « intelligence » ?

Les traductions sont parfois malheureuses. Par exemple, au lieu de traduire « sustainable development »  par « développement durable », il aurait mieux valu « développement soutenable ou supportable » moins ambigu. De même, la traduction de « artificial intelligence » (AI) en « intelligence artificielle » (IA) oblige à rappeler sans cesse que l’IA n’est pas intelligente. Le mot « intelligence » en anglais est lié à l’information, comme dans CIA ou Intelligence Service, et non à une capacité intellectuelle, voire imaginative !

L’IA n’est pas « intelligente » et encore moins « sensible ». Elle n’est que ce qu’on lui a appris à faire. Demandez-lui de ne lire que le Figaro ou Valeurs actuelles, ou bien que Libération et Le Monde, vous disposerez de deux IA aux réactions bien différentes.
Donc, il n’y a pas qu’une IA ... un peu comme les hommes d’ailleurs. Woody Allen affirme que « le contraire de l’intelligence artificielle, c’est la bêtise naturelle ! »

L’IA est déjà là, autour de chacun. Mais l'agent conversationnel de Chat GPT basé sur le modèle de langage GPT d'OpenAI est en passe de devenir un outil dont les applications vont se généraliser très vite et partout ! Il est affiné en continu grâce à l'utilisation de techniques d'apprentissage supervisé et d'apprentissage par renforcement. Les performances du logiciel s’améliorent à grande vitesse. La dernière version Chat GPT4 récemment disponible aux USA est bien supérieure à la version précédente 3.5 qui ne date que de quelques mois !

De quoi donner le vertige.

Source : Actus Limousin

Quel est donc ce chat botté ?

Le chat GPT de Open AI est une interface permettant de « discuter » avec une IA. On lui pose une question et on obtient une réponse structurée et formulée en langage clair. On peut lui demander de tenir une conversation, de produire très rapidement un texte, une synthèse, voire des poèmes, un discours, formaliser un blog et même, résoudre des équations mathématiques. Il suffit de formuler la question selon un cahier des charges précis et aussi complexe que l’on veut. L’IA va en tenir compte en allant chercher les informations nécessaires dans les bases de données et élaborer des réponses en temps réel.

On comprend mieux le caractère intrusif de cette forme d’IA qui risque d’être à très court terme aussi incontournable que les smartphones. Même des questions courantes au quotidien pourraient être traitées par ce Chat qui pourrait devenir une sorte de super -  Wikipédia (base de données à elle seule comptant actuellement 60 millions d’articles et scrutée 500 millions de fois chaque mois).

Grande fébrilité chez les géants des data et de l’IA

Courant Janvier 2023, Open AI, valorisée à 29 milliards $ fin 2022, a annoncé une version payante avec accès prioritaire en ligne pour les professionnels (42, puis 20 $/mois) afin de financer les colossaux coûts de développement et de serveurs (2).

Les géants américains ne veulent pas rester derrière. Microsoft (qui s’est acoquiné avec Open AI en gagnant du coup 108 milliards$ en valorisation), Google, Méta, … s’emploient à proposer des outils permettant de transformer en document écrit ou graphique un script audio, de décrire, comparer commenter des documents écrits et visuels.

C’est la course à l’échalote mais cette fébrilité génère des bugs. Le 7 Février 2023, Microsoft présentait son « Bing », moteur de recherche capable de répondre à toutes sortes de requêtes. Mais les tests réalisés ont mis en évidence les faiblesses et des approximations parfois dangereuses (3). Microsoft a affirmé remédier rapidement à tous ces bugs et a maintenu son calendrier de mise à disposition de cette interface dans les outils Office tels que Word, Powerpoint ou Outlook.

Meta et Google misent sur le déploiement rapide de leur assistant « Bard ». Présenté le 8 Février 2023, l’interface s’est trompée sur une question simple, entraînant pour Google une perte de capitalisation boursière de … 100 milliards$ ! (4). On mesure ici la très grande fébrilité des marchés.

Quant à la Chine, un de ses experts en IA précise que, pour l’instant, l’Empire du Milieu est plus suiveur que leader en la matière (5) malgré les Baidu, Alibaba, Huawei ou Tancent qui n’ont pourtant rien à envier aux GAFAM américaines ... sauf justement en matière de R&D sur les interfaces conversationnelles. Seul Baidu a promis de lancer son robot « Ernie Bot » en Mars …

En pratique, est-ce dangereux docteur ?

L’IA est déjà partout disais-je. Il faudra faire avec car notre avis importe peu.

A-t-elle ou va-t-elle faire disparaître des emplois, ou en créer d’autres ? Va-t-elle remplacer un grand nombre d’entre nous ?

Faut-il poser la question sous la forme « danger » contre « progrès » ? Asma Mhalla, spécialiste des enjeux géopolitiques du numérique, pense que cette question est dépassée. Selon elle, « sur l’IA, il faut distinguer les vrais sujets des faux problèmes » (6) et la question de savoir si … ne se pose plus car l’IA est déjà banalisée.

D’autres ne sont pas de cet avis. Les derniers bugs des ChatGPT ou équivalent tendraient à montrer que ces outils ne sont pas encore vraiment opérationnels et font l’objet d’une excitation médiatique qui rappelle d’autres grands flops dont le principal effet visible fut  le yoyo boursier : les blockchains, la monnaie numérique, le métaver, le « web3 », les voitures autonomes, les livraisons par drones, la robotique appliquée à la santé, ...

Pourquoi donc s’inquiéter de quelque chose qui ne marche pas ? Même si l’IA se développe aussi rapidement qu’inéluctablement, les aléas présents et à venir ne manquent pas.

L’usage d’un ChatGPT génère beaucoup d’interrogations. Qui sera responsable en cas de litige ? Comment gérer l’incompréhension devant certains résultats ? Les auteurs de textes ou d’images utilisés auront-ils des droits ? Faut-il craindre que les réseaux soient inondés de textes de synthèse ou d’images créées ou remaniées indissociables de contenus crées par des humains ? Comment discerner des utilisations frauduleuses ? Comment lutter contre l’uniformisation des réponses ? Comment contrecarrer la facilitation potentielle de créations de fake news ?

Les ChatGPT vont-ils contribuer à provoquer ou accélérer la disparition de certains métiers : journalistes, juristes, médecins, maîtres d’œuvre, … ?
Sur la question de l’emploi, l’économiste Daniel Sussking, professeur à Oxford et auteur de « Un monde sans travail » (Flammarion),  a une position nuancée.

Le discours sur la machine qui remplace l’Homme ne date pas d’hier. Elle empiète sur ses tâches. Ses capacités manuelles, cognitives voire « émotionnelles » lui permettent de remplacer l’humain ou, au moins, de diminuer son action dans la chaîne de production.
Si les machines peuvent remplacer les humains, c’est que leurs emplois ont été considérés comme une série d’opérations sommaires (7) avec diminution des salaires et dégradation du statut social. Le Taylorisme aura représenté depuis déjà un siècle la première étape consistant à assimiler l’homme à une machine à faibles capacités C’est ainsi par exemple que les poinçonneurs du métro ou les caissières de supermarché ont été remplacés par des « robots » dont le fonctionnement provoque le rire ou la colère selon l’humeur. Les franciliens connaissent bien ces portillons automatiques sensés laisser sortir les usagers en empêchant de rentrer ceux qui n’ont pas de ticket. Ces derniers savent comment faire pour contourner la difficulté.
C’est d’une simplicité biblique ! Imaginons les coûts en R&D technologiques et robotiques pour mettre au point ces machines, les construire et les maintenir. L’efficacité est proche de zéro mais les poinçonneurs (métier certes peu passionnant) ont été remplacés par beaucoup moins de salariés aptes à entretenir et réparer ces machines. On pourrait conclure que grâce à ces machines, moins de gens travaillent de façon idiote (faire un trou dans un billet à longueur de journée) et les emplois crées font appel à des compétences et valorisent l’employé. Permettez-moi de penser que ce n’était pas la priorité des décideurs et concepteurs ... et dans cet exemple précis, l’utilité est nulle. Dans de nombreuses villes en France ou ailleurs, ces portes sont inexistantes. Grosses économies en €, énergie et carbone et pas plus de fraudes.

Source clicanoo

On peut croire que l’IA va supprimer des emplois répétitifs et aliénants. Songeons alors aux travailleurs du « clic » payés une misère pour des tâches difficilement automatisables. Le ChatGPT n’est pas plus autonome qu’une autre IA. Une enquête du Times révèle que le modèle a été entrainé par des petites mains du Keyna payées moins de 2 $/heure et par des contributions plus ou moins volontaires des utilisateurs (7).

Un peu d’éthique dans ce monde d’octets

La révolution de l’imprimerie a permis l’accumulation de certitudes, sa diffusion et l’avènement du siècle des Lumières. Les évolutions récentes de l’IA génèrent des ambiguïtés cumulatives. Saurons-nous apprendre à questionner plutôt qu’à obéir ? (4)
« Faut-il resté sceptique ou s’alarmer ? » se questionne Alexandre Piquard (8).

Ma conviction est qu’il ne faut pas s’alarmer. Le « coup » est parti, c’est trop tard. Et il ne faut pas être sceptique. Les bugs actuellement constatés ne sont que des effets de la précipitation, de la concurrence démesurée entre les géants des datas, et entre les USA et la Chine. Il faut s’attendre à des progrès inouïs en matière d’IA et de robots conversationnels, « progrès » mus par deux motivations principales et habituelles : un gain financier maximal en un minimum de temps et la puissance militaire.

La meilleure attitude est la vigilance.
Les réflexions sur l’éthique de l’IA ont enfin réellement démarré. Preuve en est la mise en œuvre par l’Union Européenne de « l’AI Act ». Les débats sont intenses (9). Construit sur une approche par les risques en fonction des usages, l’AI Act est plus ou moins restrictif et le débat porte principalement entre les obligations de vérifications et l’ouverture à l’innovation.

Déjà, les usages à hauts risques sont interdits, ou presque : notation sociale (comme en Chine), techniques subliminales de manipulation, vidéosurveillance … sauf dans l’antiterrorisme (exemple tout frais : la décision vient d’être confirmée de l’utilisation de caméras à reconnaissance faciale pour les JO de Paris 2024).

Les usages à risques doivent être contrôlés : éducation, ressources d’informations, conduites autonomes, chirurgie assistée, obtentions de prêts bancaires, justice, etc … afin de minimiser les erreurs et prévenir l’usager qu’on interagit avec une machine.

Le vrai danger est que l’IA prenne des décisions sans humain dans la boucle. Elle est stupide, amorale, incapable de penser pour le bien commun, comme tout bon dictateur.
L’affaire est trop sérieuse. Il faut combattre une éventuelle mystique pro-IA.

Rien ne dit que l’IA sera soluble dans la démocratie et le développement durable.

xxxxxxxxxxxxxxxxxxx

 

1.  « Dans le sillage de ChatGPT, la course à, l’IA » - Le Monde - 18 Mars 2023 - Alexandre Piquard
2.  « ChatGPT : révolution ou grand remplacement ? » - Challenges - 8 Février 2023 - Tom Laufenburger
3.  « Microsoft reconnaît les ratés de son robot conversationnel » - Le Monde - 23 Février 2023 - Alexandre Piquard
4. « Les chers perroquets de l’intelligence artificielle » - Le Monde - 1er Mars 2023 - Arnaud Leparentier
5. « Technologie : en Chine, Chat GPT fait des envieux » - Le Monde - 21 Février 2023 - Simon Leplâtre
6. « L’intelligence artificielle a déjà changé votre quotidien » - Figaro Magazine - 17 et 18 Février 2023 - Vincent Jolly
7. « L’intelligence artificielle réactive la rengaine des robots voleurs d’emplois » - Libération - 10 Mars 2023 - Nicolas Celnick
8. « ChatGPT : être à la fois alarmiste et sceptique » - Le Monde - 17 Février 2023 - Alexandre Piquard
9. « L’Union Européenne entend réguler l’AI » - Le Monde - 16 Février 2023 - Alexandre Piquard

---

À propos de l'auteur

Bernard Sesolis

Consultant Energie - Environnement, Docteur en géophysique spatiale environnement, Bernard Sesolis a une longue expérience en secteurs publics (Ministère de l’Equipement) comme privés (fondateur et directeur des bureaux d’études Tribu puis Tribu-Energie). Auteur de nombreux ouvrages, il est également investi dans plusieurs associations (AICVF, Effinergie, ICEB...). il poursuit actuellement ses activités de conseil et de formation dans le domaine des bâtiments respectueux de l’environnement et soucieux des usagers

https://conseils.xpair.com/lettres_expert/bernard-sesolis.htm