TECHNOlogos PARIS ÎLE-DE-FRANCE
Penser la technique aujourd'hui et résister à sa puissance
Adhérent.e

Débat du 14 février 2018

L’Intelligence Artificielle ou l’enjeu du siècle un livre d’Eric Sadin

Introduction par Roseline

D'entrée de jeu, on peut noter que la simple dénomination d'une puissante machine à calculer par les mots, "intelligence artificielle" (issus de la cybernétique), porte en elle même un objectif d'omnipotence, concurrentiel, et mimétique visant à supplanter une intelligence du vivant, jugée défaillante.
L'assemblage contre nature de ces deux termes (IA)exprime actuellement et sans détour, le projet de s'imposer intégralement au vivant et en  particulier à l'humain, jusqu'au "dé-saisissement de lui même".
E.Sadin met en lumière tout au long de cet ouvrage, ce qu'il juge être "un changement de statut" du numérique  avec le développement de l'IA, non seulement  par la puissance de calcul toujours plus rapide et le stockage massif d'informations, que par sa faculté d'auto apprentissage.
Le terme élargi, au pluriel, de "technologies", appelé à évoquer directement objets, fonctions multiples voire un modèle de société, semble avoir englouti le champ critique d'un nouveau savoir à l'étude.
Pas de "logos" sur la "tech né"  puisque ça parle (en direct?) ... jusqu'au pouvoir qui lui est donné, d'énoncer la vérité en toute chose. Le tour de passe passe est complet.
Grâce à de multiples exemples dans  des domaines variés et bien exposés dans le livre, E. Sadin veut alerter sur le risque - en cours - d'abandon choisi de l' humanité par elle même.
Il ne manque pas dans cet essai les occasions d'attirer l'attention sur un arsenal langagier , dont le trait commun peut se repérer au mélange du vivant  de la nature à l'inerte de l'artefact.
Il s'agit bien de poser comme naturel l'inarrêtable, l'in-criticable développement accéléré d'une technicisation anthropomorphique et intégrale de nos sociétés.

Chapitre II : Le pouvoir d’énoncer la vérité par Christian

Note Du Lecteur : suite à la conférence « La vérité en sciences » d'Hervé en décembre 2018, ce chapitre permet de poursuivre cette réflexion.

Dès l'introduction, l'auteur assimile l'IA à Un système computationnel doté d’une singulière et troublante vocation : énoncer la vérité. Plus loin, il confirme ce principe : Le numérique s’érige comme une puissance alèthéique, vouée à exposer l’alètheia, la vérité.

NDL : à ce stade, il ne remet pas en cause la fragilité d'une vérité – quel que soit l'émetteur. On pourrait s'interroger aussi sur la différence de cheminement pour énoncer « une vérité » entre un humain et une IA - sachant que pour celle-ci l’information est conservée et véhiculée que sous forme de 0 et 1, et façonnée par des langages qui se superposent pour arriver à nous convaincre.

Les modèles de Post-vérité - Avancer des faits sans qu’il soit certain qu’ils correspondent à la réalité - ou de Fake-news - manipuler l’opinion - sont Deux affaires qui ne portent que sur l'exactitude des faits. Mais l'auteur s'inquiète plus sur La forme de nos existences corrélées à la question de vérité.

L’IA est là pour évaluer une multitude de situations, de phénomènes du réel ... et ne se contente pas de produire des équations supposées exactes, d’émettre des conclusions pour ensuite engager des actions. Il y a une sorte de vérité du fait d’une énonciation. … Un nouveau régime de vérité qui s’inscrit dans un temps réel, affecté d’un statut d’autorité, et doté d’un esprit utilitariste.

NDL : mais ce système peut-il être efficace dans le domaine du prospectif et du créatif ?

L'auteur recherche aussi parmi des philosophes, une ligne conductrice menant à la vérité. Il va introduire l’alètheia algorithmique qui n’aboutit pas seulement à une vérité mais plutôt à un sentiment partagé d’une évidence. L’alètheia procéde d’une puissance de révélation (le messie…)

Suit 4 sous-chapitres que l'auteur appelle « stade » et que l'on peut comprendre comme les différents impacts que l'IA peut avoir ou a sur notre âme et corps.

Stade incitatif : au plus près du corps et des esprits

L'auteur fait référence principalement au smartphone, un compagnon Fidèle et familier, symbole d'une connexion permanente, avec son tamtam des événements et des sollicitations, avec des flux qui se contredisent parfois et gonflent le trafic.

Nous attendons des processeurs qu’ils nous gouvernent nous délivrent du fardeau : celui de nous prononcer, de nous engager, de mettre en jeu notre responsabilité. Mais aussi Reproduire certains mécanismes du cerveau et mettre en place un process neuroénergétique conduisant à une action.
L'auteur cite comme exemple un serre-tête connecté, à mettre avant d'aller se coucher. Son rôle est d'analyser les ondes encéphalogrammes, émettre un bruit rose pour favoriser l’endormissement et agir sur le thalamus.

Stade impératif : éradiquer le doute

Chacune de nos actions se déploie dans un arbre de possibilités. Il existe donc beaucoup d’alternatives. L'auteur reconnaît la notion d’incertitude et la persistance du doute dans la vie, Un lot tragique de l’existence, insurmontable. Dans le monde professionnel, c'est la reconnaissance d’une anxiété induite face à l’insécurité et le risque permanent.

Face à cela, les lois, les règles, les normes, puis des aides à la décision qui se mettent en place à partir des années 90 grâce à la puissance de calcul qui augmente. Dans la banque pour attribuer des prêts, la justice pour rendre un verdict, on est toujours dans un monde modélisé ayant pour but une décision-action.

Cette recherche de modèle se fait lorsque l’action possible est Sensible ou coûteuse. Mais aussi Pour évincer la perception humaine et plurielle des choses.

NDL : alors qu’aujourd’hui, on demande aux jurés leur intime conviction !
Mais a-t-on une meilleure certitude avec le Deep-Learning qui analyse une multitude de cas et qui grâce à un réseau neuronal va permettre de fabriquer un modèle, une boite qui donnera une réponse lorsque l’on va lui soumettre un nouveau cas.

L'IA enverrait Une vérité objective et indubitable ?

NDL : a-t-on un système complet ? A-t-on rassembler tous les éléments, pris en compte toutes les dimensions ?

Le rôle de l’IA serait alors d’enlever l’ambiguïté propre à toute situation : les relations humaines, le langage.

Le stade prescriptif : Hippocrate pris sous le joug du privé

L'auteur précise que le rôle de l'IA est d'Enlever le doute dans les actes de médecine.

NDL : n'oublions pas que certains disaient « C’est le poumon », « Une bonne saignée et les humeurs partiront ». On n’aimait déjà pas le doute.

Certains disent que l’IA va sauver des vies, mais qu’elle représente un danger et que la médecine est devenue informationnelle, avec une doxa de l’amélioration grâce à la transformation digitale.

NDL : on retrouve le combat contre l’incertitude, l’inconnu. Est-on individuellement un peu responsable ou acteur ?

L'auteur souligne qu'il y a Une lutte industrielle de la prescription. Face à cela, Une charte déontologique réglerait tout ? Il y a ou une envie d’une main basse sur les données de santé, à la maison, l’éducation, des données émises par le corps (soit de l’interne soit de l’externe).

Plus loin, le constat de la démarche à s’attacher Des compétences pour légitimer ce qui va sortir de la boite de l’IA. Toutes les grandes sociétés du monde du numérique ont un département santé.

Faut-il s'inquiéter : Le médecin sera-t-il détrôné, marginalisé face à ce nouvel entrant qu’est l’IA ... Régression de la relation liant le corps médical et le patient ... Récolte de l’information à des fins marchandes.

Une léthargie : Face à la doxa de l’amélioration des diagnostics et des traitements par le numérique, peu de réactions du monde médical et de la société régissant ou se mobilisant à la hauteur des enjeux. L'auteur souligne Le Manquement d’une théorie critique du devenir de la médecine et le souhait d'un Système de santé n’appelant pas à une contrepartie d’un profit. A-t-on ouvert la boite de Pandore permettant à l’industrie de se positionner tout au long de la chaîne de santé ?

Un besoin : Nous emparer du droit d’opérer des tris (dans les moyens) afin que le diagnostic automatisé ne soit utilisé qu’avec parcimonie.

NDL : dans le système de santé, qui serait le maître d’ouvrage, le maître d’œuvre ?
Et comme exécutant, le personnel médical ?

Si nous ne réagissons pas, la médecine dépendra de la puissance alèthéique des systèmes (données et algorithmes) éradiquant le socle humaniste qui s’était constitué.

Le stade coercitif : la puissance de sidération

L'auteur est catégorique : Apprécier la technique, conduit à deux visons antagonistes : s’enthousiasmer ou s’horrifier.

L'auteur retrace l’horreur avec l’outil industriel du XIX et XX siècle, et l’évolution de son organisation. Puis l’enthousiasme suite à la relance après 1945, avec dès 1960 le but de concourir au confort des individus. Avec pour conduite Il faut faire plier la nature et les choses à notre impitoyable emprise.

L'auteur cite l’enchantement de l’esprit positiviste, de l’aspiration des Saint-Simoniens voyant les progrès techniques comme une amélioration de la vie des personnes, et pour une marche meilleure de la société. Il schématise l’industrie par son développement et le fait de produire plus, avec une aspiration exclusive du profit et un mépris à l’égard de la classe ouvrière. Puis continue avec l’époque néo-libérale (maximiser les process accompagné d’un management adapté) qui a pour impact la pression sur les travailleurs, qui favorise une mise en concurrence des compétences.

L'auteur revient aussi sur l’historique des pratiques militaires avec une structure hiérarchique et décisionnelle. Une évolution vers une transmission des informations instantanées, une marge d’autonomie. Un ensemble qui évolue avec la numérisation du champ de bataille pour permettre agilité, temps réel et responsabilité ... Il n’est plus question de la fable de la prise d’initiative et de l’inventivité des personnes mais de leur seule disposition à réagir.

On arrive après une prise d’information sur le terrain, d’avoir un cadrage de l’action de l’humain. Amazone avec son système vibratoire pour guider la main de l’opérateur vers le bon endroit ou la bonne pièce. Il caractérise cela comme une nouvelle fonctionnalité en devenir des technologies de l’alètheia. L'auteur parle des drones où l’humain est dans la boucle décisionnelle « in the loop », et de ceux où il n’est plus impliqué « out of the loop » dans des actions létales, aboutissant à la mort.

On est en face de dispositifs pour nous reprendre, ou nous évacuer de la boucle (décision, voire de l’action). Les créatures artificielles vont nous éradiquer symboliquement, délivrant la vérité, une vérité systémique.

NDL : Se pose la question qui est le pilote à bord du système ?

Chapitre IV : le paradis articiel par Jean-Luc

L’Intelligence Artificielle détruit le politique :

L’IA détruit le politique, il ne s’agit pas de ce que l’auteur appelle la « politique institutionnelle », mais du politique lui-même.
La politique institutionnelle est le résultat d’une élection. Avant celles-ci des promesses ont été faites, mais une fois au pouvoir, devant « les difficultés » on revient à la « gestion des affaires et à l’abandon des ambitieux projets initiaux ».
Le politique c’est donc ce moment pour mettre en place des projets à long terme, voire ambitieux.
On sait grâce à Hanna Arendt que le politique c’est d’abord l’ACTION. C’est le résultat d’une rencontre entre les citoyens, il s’agit donc d’un NOUS, pluraliste. Toute l’activité politique consiste à faire converger cette pluralité vers des décisions non techniques, mais politiques. Rappelons qu’H. Arendt défendait le pouvoir des conseils et la force des mouvements populaires sur celle des experts.
Aujourd’hui la politique consiste à soutenir la croissance.
Avec la numérisation de la société a lieu celle des administrations. Finalement l’Etat devient comme une « plate-forme », permettant d’offrir des services grâce aux informations obtenues. Les citoyens deviennent des consommateurs. On passe du « gouvernement des hommes » à « l’administration des choses », selon la formule de Prosper Enfantin. Les citoyens jusque-là considérés comme étant tenus par des droits et des devoirs au sein d’un ordre commun, deviennent des usagers en droit de pouvoir bénéficier des meilleures offres - tout comme des consommateurs-.
La politique se réduit à garantir la satisfaction des citoyens.
C’est ce qui se passe avec la « SMART CITY », avec la numérisation, le fonctionnement général évolue de façon toujours plus régulé.

Pour E. Sadin la politique voulait jusque-là préserver la dignité humaine en visant l’égalité des droits, un soutien à l’éducation, un accès universel à la santé et à la culture.
Dorénavant son enjeu consiste à réduire les coûts, laisser agir les systèmes, faire en sorte que chacun puisse bénéficier des services relativement à chaque séquence du quotidien.
Ex :  les bibliothèques devenues  des espaces où sont proposés du yoga, où l’on boit des cafés, etc…au lieu de simples lieux de lectures (p. 184)

Une organisation se met en place, avec l’impression que le monde pourrait fonctionner sans NOUS. Le pouvoir des hommes sur les hommes est remplacé par le pouvoir de la bureaucratie. (p. 188)

L’administration automatisée des conduites :

Mise en place d’une évaluation scientifique des comportements, comme en Chine par exemple (p. 190).
Il ne s’agit pas simplement de surveiller, mais d’influer les comportements (p. 193)
Nous passons du stade de l’individualisation à la pénétration des corps et des choses. (p. 196)

Théorie de la voiture autonome :

Une invention, une mesure politique peuvent aller au-delà de ce qu’ils semblent instituer.
Ex : les congés payés ont généré la société des loisirs.
Ainsi en sera-t-il de la voiture autonome, comme ce fut le cas de l’automobile qui a généré une civilisation de l’automobile : liberté, centres commerciaux, destruction de la ville et de la campagne (transformation de la géographie).
La voiture autonome risque d’entraîner la fin de la propriété, la fin du parking (p.202), une coordination intégrale, une radiographie des comportements (p.204 et 205).
« Alors pour être au fait de tous ces moments vécus comme enclos dans un cocon, qui représentent un reflet condensé de nos personnalités, il faut mettre en place des organes de saisie de nos gestes. D’abord, en usant des fonctionnalités offertes par  l’interface vocale qui permet de procéder à l’analyse tant des conservations tenues entre les personnes qu’avec le système. Ensuite en décomposant les traits du visage via des min-caméras, mais aussi en récoltant l’haleine, la température du corps, la pression sanguine, le rythme cardiaque,…etc.(…) c’est alors qu’étant pénétrés par tous nos pores et de toute notre psyché, la voiture se trouve pleinement en mesure de nous piloter. »

Conclusion : p. 206
« L’automatisation, ce n’est pas seulement l’évacuation progressive de l’humain dans la réalisation de ses tâches, ce sont des présences, des fantômes, qui nous environnent, nous entourent, nous hantent. La lutte industrielle à venir verra une compétition de la présence, chacun s’évertuant à imposer indéfiniment son empire spectral et à éliminer tous les autres. Ce sera une sourde mais impitoyable guerre de fantomes. »

L’avènement d’un pouvoir-kairos (le moment opportun, le bon moment) :

Emergence d’un nouveau type de souveraineté (p. 208). L’autorité, la contrainte et la crainte font place au pouvoir « kairos ». la conquête comportementale débouche sur l’art du kairos, c’est à dire de saisir l’occasion (p.209)
« A cet effet il est impératif de cultiver un sens aigu de l’occasion (kairos), de savoir devancer, avant tous les autres, les aspirations dites ou non dites, réelles ou simulées, des personnes et de parfaitement y répondre, en d’autres termes de pouvoir s’ériger en maitre du kairos ».
Il ne s’agit pas seulement de « bio-pouvoir » (p. 211)
Il cherchait à dompter plus ou moins subrepticement les corps  pour imposer un ordre, il s’agit plutôt de technologies d’un nouveau type « permettant l’administration de la vie et de la prévenance »

Le transhumanisme, c’est d’abord la création d’une humanité MATERNÉE.
Conclusion : p. 214
« Comment appellerait-on une créature qui chercherait en toute occasion, à nous ouvrir des portes, à nous rassurer, à nous cajoler, à nous procurer un consentement perpétuel tout en cherchant à pomper notre sang. »

Le séquençage et la disparition du REEL :

Le réel c’était ce contre quoi on se cognait (Lacan), car il n’existait pas de loi intégrale nous permettant de le saisir en toute circonstance, or (p. 217) nous assistons à son extinction.
La société d’information nous permet de le plier à nos souhaits (p. 218).
« Douée d’une appréhension en temps réel des phénomènes du monde. Et alors nous pouvons indéfiniment nous déterminer en conséquence, atteignant un stade de la conscience et de la maitrise absolue de nos actes. Il n’y a plus de limite à la saisie des phénomènes et à notre volonté de procéder  en chaque occasion de la façon la plus opportune. »
Avec la disparition du réel, disparait aussi notre besoin de nous illusionner à son sujet.
Exemple : la traduction simultanée qui crée un environnement transparent (p.219)

« Nietzsche estimait que la volonté de faire sens de tout, d’avoir raison de tout, tenait d’un déni de la complexité irréductible du réel. Elle relèverait de la folie.(…) et alors par notre pulsion à vouloir nous affanchir de notre vulnérabilité,  à nous doter d’une maîtrise intégrale, nous serions arrivés à nous défaire de nous-mêmes, de nos facultés, engendrant un nouveau type de vulnérabilité, mais on encore  patent à ce jour. » (p.223) :

Conclusion : p.225
« Le réel est ce qui doit être défendu ».