Full knowledge 1052014 960 720

Communauté

LE COIN LECTURE

LE MYTHE DE LA SINGULARITE, de Jean-Gabriel GANASCIA

Publié par Claire Adélaïde Montiel, le 9 mai 2018   750

Xl jean gabriel ganascia

Enseignant chercheur en informatique et sciences cognitives,président du comité d’éthique au CNRS, Jean-Gabriel Ganascia fait autorité en matière d’ lntelligence Artificielle. Dans son livre Le Mythe de la Singularité, sous-titré Faut-il craindre l’intelligence artificielle ?, il s’interroge : Le moment est-il venu de redouter l’avènement de la Singularité technologique, ce point de rupture dû à « l’accélération irréfrénée des progrès de la technologie… Un point de non-retour où les machines[dit-on] prendront le pouvoir sur l’homme conduisant à une transformation majeure de l’humanité » ?

La date même de cette rupture dans le continuum de l’histoire humaine est fixée. Bill Joy, co-fondateur de Microsoft, l’annonce pour le début du XXI° siècle. Vernor Vinge, écrivain de science-fiction et universitaire, nous la promet pour 2023. Quant à Ray Kurzweil, ingénieur et futurologue américain, il considère qu’elle se produira au plut tôt en 2045. Mais est-ce vraiment un hasard, s’interroge l’auteur, si l’échéance recule au fur et à mesure qu’on se rapproche de la date fatidique ?

La singularité nous est présentée comme inéluctable, un avenir impitoyable tout droit sorti de la science-fiction. Comment ne pas remarquer cependant que ceux qui nous en menacent, de grands scientifiques comme le physicien Stephen Hawkins, Elon Musk créateur du système de paiement par Internet Paypal et les géants du Web qu’on désigne familièrement par les sigles GAFAM (Google, Amazon, Facebook, Apple,>Microsoft) et NATU (Netflix, AirBnb, Tesla, Uber) ne sont autres que ceux-là même qui créent les conditions de son émergence, de telle sorte qu’on ne peut que souscrire lorsque Jean Gabriel Ganascia les qualifie de « pompiers pyromanes ».

SCIENCE OU SCIENCE FICTION ?

C’est au nom des règles que doit mettre en oeuvre toute démarche scientifique que l’auteur réfute les arguments des tenants de la Singularité technologique. Il ne croit pas pour sa part à ces prédictions catastrophiques dont on nous abreuve et il reconnaît dans ces scénarios ceux-là même que développèrent plusieurs auteurs de Science fiction du siècle passé : Vernor Vinge, l’inventeur de la Singularité mais aussi Isaac Asimov avec son cycle des robots et notamment sa nouvelle La dernière question.

Selon lui, la notion de Singularité technologique écarte la pensée scientifique au profit d’une « vaste narration cosmique ». « Là où la science distingue nettement entre une argumentation rationnelle fondée sur des preuves d’ordre empirique ou mathématique et l’imaginaire de romanciers ou de cinéastes, les penseurs de la Singularité technologique les confondent dans un grand récit ». Outre cette argumentation soumise plus à l’impératif narratif qu’à la logique et à la rigueur démonstrative, tout se passe comme si la science et la science-fiction échangeaient leur point de vue et leurs méthodes.

« Le malaise tient ici non au scénario lui-même mais au mélange des genres et à l’usurpation qu’il sous-tend. Des scientifiques de renom, des chefs d’entreprise richissimes et des ingénieurs réputés, abusent de leur autorité pour donner crédit à des fables populaires… annonçant, sous couvert de leurs compétences, des catastrophes absurdes » Ils mettent en scène un scénario unique « présenté comme fatal », masquent les alternatives et nient la liberté des hommes. Ce faisant ils trahissent leur mission de scientifiques qui est, si l’on en croit l’auteur, non pas d’inventer des fables mais, « dans la mesure de leurs compétences propres, d’indiquer les possibles et les probables pour aider les humains à se déterminer et à agir. » Or, Sous couleur de science, on assiste ici à la naissance d’un mythe.

  UN PEU D’HISTOIRE

La discipline Intelligence Artificielle créée en 1955 par deux américains, le mathématicien John Mac Carthy et le scientifique et philosophe Marvin Minsky « vise à simuler sur des ordinateurs les différentes facultés cognitives humaines et animales. Ses promoteurs partaient du principe selon lequel il serait possible de décomposer l’intelligence en fonctions si élémentaires qu’on pourrait les reproduire sur un ordinateur ». Avant cela, Alan Turing avait, en 1948-1950, évoqué la nécessité de doter les machines d’une capacité « à acquérir d’elles-mêmes compétences, savoir et savoir-faire à partir d’observations sur le monde extérieur, sur leur place dans ce monde et sur leur propre comportement »

Depuis, différentes manières de simuler l’intelligence humaine ou animale ont été explorées. Aujourd’hui la masse de données ou Big data représente chaque jour un milliard de fois le contenu de la Bibliothèque Nationale de France. Les ordinateurs sont capables de se reprogrammer et leur comportement devient de plus en plus difficile à anticiper du fait de leur rapidité de réaction et du fait que leurs programmes autogérés ne sont pas supervisés par les humains. Des succès inouïs en résultent.  "La toile provient du couplage des réseaux de télécommunication avec l’hypertexte, une modélisation de la mémoire conçue en 1965 à l’aide de techniques d’intelligence artificielle". Grâce aux techniques d’apprentissage machine, on parvient à en extraire automatiquement des connaissances : logiciels de reconnaissance vocale ou de visages, traitement de masses de données, voitures autonomes, apprentissage de jeux complexes.

Cela signifie-t-il pour autant que les machines sont à même « de conquérir leur autonomie ? et, ce faisant, de s’affranchir de nous, au point de nous dépasser bientôt ? Pour répondre à cette question, il faudrait tout d’abord définir ce que l’on entend par autonomie. D’autre part, il y a une différence considérable entre engranger de telles réussites et être en mesure de créer une conscience semblable à celle des humains. Rien, au plan scientifique ne permet aujourd’hui de justifier les craintes exprimées entre autres par Stephen Hawking, Elon Musk, Bill Joy. « Pour en revenir à la Singularité technologique, aux différentes formes de transhumanisme et de posthumanisme ou aux autres technoprophétismes contemporains, on constate que leurs partisans déploient beaucoup d’efforts pour les rendre plausibles, au sens étymologique, et il semble qu’ils y parviennent au vu de leur succès populaire ». 

  CATASTROPHE OU CATASTROPHISME ?  

La catastrophe annoncée aura-t-elle lieu ? A quelle échéance ? Autant de questions qu’on peut se poser d’autant que, depuis toujours, les hommes ont créé des machines et développé la crainte de se voir supplanté par elles. Depuis toujours, ils ont inventé des outils pour prévoir l’avenir mais force est de constater que les études prospectives se sont le plus souvent révélées approximatives. . « Bref » affirme Jean Gabriel Ganascia, « si rien ne permet d’affirmer l’impossibilité absolue de la Singularité, elle est hautement improbable, si improbable qu’on ne saurait l’envisager sérieusement. »

D’autre part, on peut se demander le but que poursuivent les tenants de la Singularité technologique en alertant à grands cris les êtres humains des risques liés à l’Intelligence Artificielle tout en poursuivant leurs recherches pour rendre celle-ci toujours plus puissante. Expriment-ils par là leur espoir d’accéder à l’immortalité par ordinateur interposé ? Ou leur crainte de se voir dépassés dans un monde qui va de plus en plus vite et s’avère incontrôlable peut-être pour eux au même titre que pour le commun des mortels ? On lira avec intérêt les trois hypothèses émises à ce propos par Jean Gabriel Ganascia qui décèle sous les avertissements répétés de ces géants du Web déjà immensément riches et puissants une arrière-pensée politique.

Une raison nécessaire et suffisante pour lire avec la plus grande attention ce texte dense et précis, bien argumenté, riche de savoir scientifique, historique et philosophique qui invite tout un chacun à ne pas se laisser mener par le bout du nez et à examiner les fables dont on le berce à l’aune du raisonnement scientifique.