L'INTELLIGENCE ARTIFICIELLE ENTRE MYTHE ET SCIENCE

Publié par Claire Adélaïde Montiel, le 8 août 2018   130

Xl asimov le cycle des robots

On sait que le philosophe et savant jean Gabriel Ganascia se porte en faux. contre les risques qu’est censée nous faire courir l’émergence de l’intelligence artificielle dont certains représentants des plus grandes puissances de l’informatique nous menacent. Dans ses conférences et ses livres Il ne cesse de dénoncer la manipulation de l’opinion que constitue le mythe de la singularité technologique qui prédit, pour 2057, l’émergence d’une volonté propre des machines et l’éviction de la race humaine telle que nous la connaissons au profit d’une humanité connectée. Ce point de non retour, cette transformation majeure et irréversible de l’humanité naît, rappelle-t-il dans ses ouvrages de deux concepts mathématiques, la théorie de la singularité mathématique et la théorie des catastrophes associées par quelques « savants » pour réveiller les anciens mythes qui, depuis le début de l’humanité, racontent la révolte des créatures contre leurs créateurs .

En ces temps donc où l’intelligence artificielle occupe les esprits et donne lieu à toutes sortes de délires et de publications plus ou moins catastrophistes, il est intéressant de revenir aux précurseurs qu’on découvrira, nul ne s’en étonnera, parmi les écrivains de Science fiction.

 

LES PRECURSEURS

Un logique nommé Joe, la nouvelle de Murray Leinster qui ouvre l’anthologie Demain les puces, de Patrice Duvic, date de 1946. On y découvre ce que pourrait devenir une société où les logiques, entendez les intelligences artificielles, seraient en mesure de permettre aux humains d’obtenir tout ce qu’ils souhaitent, sans aucun frein. Le héros de la nouvelle, un logique nommé Joe, ne voit pas ce qu’il y a de répréhensible à offrir aux humains qui lui en font la demande les moyens de tuer leur femme, piller une banque, fabriquer de la fausse monnaie ou de pratiquer toute autre activité leur permettant d’obtenir ce qu’ils veulent. Pour limiter les conséquences de ces désastreuses, initiatives la solution serait de se passer des logiques mais cela est devenu impossible car sans eux les hommes sont désormais incapables de gérer leurs besoins les plus élémentaires. Il faudra toute l’ingéniosité d’un modeste employé du service de maintenance  pour venir à bout de cette inextricable situation.

On est tenté de crier au génie visionnaire d’autant que ce texte a été écrit à une époque où, Patrice Duvic le rappelle, on était bien loin de soupçonner l’extraordinaire évolution de l’informatique au vu des « seuls ordinateurs existants… énormes monstres à lampe occupant des étages…» dans quelques administrations et services.

Les nouvelles qui constituent les deux tomes du Cycle des robots d’Isaac Asimov ont été écrites entre 1941 et 1958, longtemps avant que les robots n’aient évolué vers les formes humanoïdes que nous connaissons aujourd’hui. Ce sont d’ailleurs moins des robots que des Intelligence Artificielles (le terme n’existait pas encore) équipées d’un « cerveau positronique » constitué de «globes spongieux de platine iridium de la taille d’un cerveau humain ». De ce fait, dans une période présentée par Asimov comme à venir et qui est notre présent, les robots se montrent capables de créer d’autres robots, de se rendre nécessaire sur les chantiers, de s’occuper des enfants et de corriger les épreuves d’ouvrages scientifiques de haut niveau, bref de faire tout ce que nous souhaitons voir réaliser par nos Intelligences artificielles. Mais ils savent aussi mentir. Lorsqu’ils se découvrent supérieurs aux humains, ils prennent un malin plaisir à les mettre en difficulté. Certains se font prophètes pour apporter la bonne parole à leurs semblables. Et tous exigent des hommes qui ont autorité sur eux, une attitude logique et une capacité à exprimer clairement leurs ordres, ce dont les humains justement ne se montrent pas toujours capables.

 

FAUT-IL AVOIR PEUR DE L’INTELLIGENCE ARTIFICIELLE ?

Dans la préface de cet ouvrage, Isaac Asimov constate que la peur de l’homme devant ses créatures n’est pas nouvelle. En témoignent entre autres le Frankestein de Mary Shelley qui date de 1817 et la pièce RUR de Karel Capek en 1923 qui donna naissance au terme de robot, mot tchèque signifiant travailleur. Asimov refuse de valider l’un des thèmes clefs de la science-fiction du début du siècle qui faisait du robot « créature de métal sans âme, et dépourvue de toute faculté d’émotion » un danger de mort pour son créateur. Une peur que nous voyons réapparaître aujourd’hui sous la plume de certains de nos scientifiques.

« Le savoir » écrit-t-il, « a ses dangers mais faut-il pour autant fuir la connaissance ? » Chacune des inventions humaines a apporté avec elle ses avantages et ses risques que les hommes ont trouvé le moyen de réguler. « On munit le couteau d’un manche pour pouvoir le manipuler sans crainte, on adjoint une rambarde à l’escalier, on isole le fil électrique, on pourvoit l’autocuiseur de sa soupape de sûreté… Considérons le robot simplement comme un dispositif de plus… En tant que machine, il comportera sans doute des dispositifs de sécurité aussi complets que possible. Si les robots sont si perfectionnés qu’ils peuvent imiter le processus de la pensée humaine, c‘est que la nature de ce processus aura été conçue par des ingénieurs humains qui y auront incorporé des dispositifs de sécurité. »



C’est dans cet esprit qu’il a inventé les trois lois de la robotique spécifiant qu’un robot ne peut porter atteinte à un être humain, qu’il doit obéir aux ordres qui lui sont donnés et qu’il doit protéger son existence dans la mesure où, ce faisant, il n’entre pas en contradiction avec les deux premières lois. Trois lois donc supposées protéger les hommes de ces créatures dont ils craignent depuis toujours qu’elles n’échappent à leur pouvoir.

 

UN DANGEREUX MELANGE DES GENRES

Nos modernes Cassandres gagneraient à prendre modèle sur l’attitude de l’écrivain, lequel définit d’ailleurs clairement les limites de ces êtres de métal créés par les hommes. Si un robot reçoit un ordre il est en capacité de l’exécuter bien mieux et plus vite que les êtres humains. Il est capable de nous libérer du travail physique et de nombre de labeurs mentaux mais les ordres qu’il reçoit doivent être précis car les robots ne possèdent aucune ingéniosité et ne peuvent corriger leurs erreurs sans recevoir de nouveaux ordres. On est bien loin des super Intelligences Artificielles qu’on nous annonce prêtes à supplanter l’humanité dans un avenir très proche.

Laissons la parole à Jean Gabriel Ganascia dans son Mythe de la singularité : « le malaise tient ici non au scénario lui-même mais au mélange des genres et à l’usurpation qu’il sous-tend. Des scientifiques de renom, des chefs d’entreprise richissimes et des ingénieurs réputés abusent de leur autorité pour donner crédit à des fables populaires… annonçant sous couvert de leur compétence des catastrophes absurdes » 


Il est assez surprenant de constater que des auteurs de science-fiction se montrent plus sensés que certains scientifiques de notre époque qui, sous couleur de science, nous servent un scénario digne de la littérature. Ce faisant, toujours selon Jean Gabriel Ganascia, ils trahissent leur mission car « il appartient aux scientifiques dans la mesure de leurs compétences propres, d’indiquer les possibles et les probable pour aider les hommes à se déterminer et à agir. »