TECHNOlogos PARIS ÎLE-DE-FRANCE
Penser la technique aujourd'hui et résister à sa puissance
Adhérent.e

Intelligence artificielle

Prise de notes : Roseline

Nous profitons de la présence de Cédric pour lui demander de nous parler de l' A.F.C.I.A : Association Française Contre l'Intelligence Artificielle ; Ce qu'il fait volontiers.

Cette association, créée en juillet 2015, ne souhaite rien de moins que d'obtenir l’arrêt des recherches sur l'IA, espérant ainsi une modification de la société. Il s'agit de rencontrer le plus d'institutions possibles  et de créer le débat à partir de cette revendication (par ex en 2016 : visite au Parlement).

A propos de l'IA, Cédric souligne que sa valeur réside dans sa capacité de calcul et sa rapidité exponentielle, qui sont le nerf de sa puissance. L'humain toujours plus distancé, doit il se mesurer à l'aune de la raison calculante ?

Cette puissance calculante dite "intelligente" est une menace pour l'humain de différentes manières. A commencer par la perte du contrôle humain sur la machine dès qu'elle est en capacité de s'auto programmer, même si les programmateurs sont des hommes à l'origine.

Il y a un rapport entre la vitesse de développement et l'impossibilité pour l'homme de s'adapter en gardant la main. Pour E.Munsk , il n'y a pas d'autre choix que de s'adapter, ce qui signifie : courir derrière en baissant le nez.

L'IA prive l'individu moyen de ses ressources (en supprimant le travail, selon H Arendt - référence non précisée.

Une adaptation qui permette un contrôle est, par essence impossible, faute de pouvoir envisager, imaginer les conséquences de ces recherches. La contradiction semble trop forte de vouloir créer une machine en vue de son autonomie rendant l'homme inutile autant qu'inapte. La seule solution pour s'adapter au"progrès" technique est ... transhumaniste : s'augmenter et/ou se mêler à la machine.

L'éventualité même de de l'idée d'encadrement pouvant exercer un contrôle et poser des limites quant à la recherche et ses applications est quasi irréaliste. La cause majeure étant la manne financière soutenue qui permet d'enchainer découvertes sur découvertes avec applications (et production d'objets) à un rythme si frénétique que tout questionnement éthique (institutions/citoyens) sur les usages est rapidement rendu obsolète ou ... non advenu.

L'IA est présentée comme une "brique" appelée à se perfectionner excluant toujours plus le lent perfectionnement humain fondé sur l'expérience. Seuls qqs experts pourront y mettre un peu la main et ... de moins en moins ?

Il y a quelque chose d'irréductible dans les recherches sur le développement de l'IA, qui ne se laisse aisément ni réduire ni critiquer. La valeur de toute puissance capable de tout calculer et à toute vitesse, exerce attrait et adhésion enthousiastes.
Aucune argumentation rationnelle n'est à la mesure ... Une justification de l'humain (avec son histoire, sa conscience) est peine perdue.

Mais surtout, pourquoi l'humain aurait-il à se justifier !

"Simplement, on ne veut pas de l'IA et demandons l'arrêt immédiat ( comme pour le nucléaire !!) des recherches ", nous dit Cédric  .

Une question : est ce que la limite en ressources naturelles ne pourrait pas freiner l'essor de l'IA ? 

Compléments

AFCIA - http://afcia-association.fr/

"Pourquoi l'avenir n'a pas besoin de nous " de Bill Joy, traduit par Michel Roudot

https://www.wedemain.fr/L-appel-de-700-personnalites-sur-les-dangers-de-l-intelligence-artificielle_a803.html

http://www.numerama.com/magazine/31868-lettre-ouverte-sur-l-intelligence-artificielle-ia-et-sa-place-dans-la-societe.html


Fausse conscience

Par Roseline

Ensuite quelques mots sur le concept de "fausse conscience"  à partir d'une émission France Culture - 22/09/2017 - "Le transhumanisme est il l'avenir de l'homme ou son pire cauchemar ? " dans Matière à penser, animée par Serge Tisseron qui reçoit Jean Michel Besnier.

C'est à partir de l'écoute attentive de cette émission que je me suis saisie de ce concept - après que nous en ayons parlé lors de notre précédente réunion. Le style de cet échange m'a laissé un malaise suffisant pour chercher à en expliciter la cause. Il y avait là  une possible "fausse conscience" surtout de la part de S. Tisseron.

L'information sur les débuts du transhumanisme,  leur développement, leur rapport avec les religions était très soigné. La référence, très utile, aux 400 pages du guide pour le développement de l'économie américaine sur "la convergence technologique (NBIC) en vue de l'augmentation des performances humaines" datant de 2003 en accès libre sur internet, n'est pas oubliée.

Le ton tranquille, les politesses, de ces 2 hommes en apparence si lucides, si bien informés, parlant avec sobriété d'un sujet aussi inéluctable que naturel : celui de la post-humanité, avait quelque chose de bien troublant. Un discours sans chair, objectif, prenant l'information pour de la critique, l' expérimentation transhumaniste pour un objet culturel à examiner de près ... sans faux fuyant ! D'où le malaise de ce qui ressemblait à un tapis rouge très sophistiqué pour cette idéologie délétère.

Mais la dite "fausse conscience" n'est pas ce qui est décrit ci dessus, elle est issue de la pensée marxiste et aide à comprendre l'aliénation du prolétariat, étranger à sa production.

Peut-être reprendrons nous ce concept ultérieurement à travers des auteurs comme J.Gabel, Wallenstein, Hinshelwood - notre temps de débat étant épuisé.