Communauté

LE COIN LECTURE

Des robots et des hommes, de Laurence Devillers

Publié par Claire Adélaïde Montiel, le 7 mars 2024   230

Laurence Devillers, membre de la CERNA (Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique) qui a participé à la rédaction, entre autres, du rapport sur l’éthique du chercheur en robotique et a dirigé celui sur l’éthique en apprentissage machine, se paie le luxe avec Des robots et des hommes, de traiter un sujet scientifique sans faire l’impasse sur l’imaginaire.

Relations entre robots et humains

Son livre est composé de trois parties qui, grâce à une approche différente, abordent le même thème, à savoir la relation entre les êtres humains et les robots, dans le but d’« expliquer un des grands défis du XXIe siècle : la nécessité de construire des compagnons-machines qui respectent nos valeurs humaines pour notre bien-être. »

En guise de préambule, Laurence Devillers passe par le biais de la fiction. On est en 2025, c’est-à-dire demain. Une usagère évoque Lily, robote assistante de santé, et les multiples services que peuvent rendre ce type de robots ainsi que les interrogations qui se font jour à propos de leur utilisation.

Puis dans l’avant-propos, l’auteure prend à son tour la parole pour faire état de ce que sont les robots au moment où elle écrit, soit en 2017. L’idée majeure, qu’on retrouvera tout au long de cet essai, est que « l’intelligence des robots n’a rien à voir avec celle des humains ». Il faut donc démystifier les capacités robotiques et se donner les moyens d’éviter l’anthropomorphisme. C’est à quoi va se consacrer cet ouvrage mais, avant cela, l’auteure établit un catalogue des robots existant au moment où elle écrit, de leur utilité, de leurs performances qui sont réelles et de leurs limites qui ne le sont pas moins.

Elle évoque également un point essentiel pour ce sujet « Un des défis scientifiques de demain est… de savoir quelles règles morales nous souhaitons donner à ces machines et qui va décider des règles à imposer à nos robots personnels ».

Voilà le problème clairement posé.

Robots et imaginaire collectif

La première partie de l’ouvrage propose une balade à travers les images que nous a légué la science- fiction depuis Mary Shelley, en 1818, et son Frankenstein, jusqu’aux représentations cinématographiques les plus contemporaines en passant par le maître du genre, Isaac Asimov.

La fascination pour ces êtres artificiels prend ses racines beaucoup plus loin encore dans l’imaginaire humain. En témoignent les mythes antiques tels Prométhée, Pygmalion ou le Golem. Laurence Devillers se livre à une analyse de ces œuvres car « en robotique et en intelligence artificielle, plus que dans d’autres domaines, la science fiction a précédé la science ».

Puis en quelques pages intitulées Halte aux fantasmes, elle développe ce que l’on sait de l’intelligence humaine et de celle que certains concepteurs s’efforcent de créer chez les machines. Elle quitte la période historique pour se rapprocher d’une actualité qui prend naissance dans les années 60 avec Marvin Minsky et John Mac Carthy.

Depuis, les recherches sur l’Intelligence Artificielle ont continué à se développer entre périodes fastes et périodes creuses, familièrement les hivers de l’IA, qui marquent un temps d’arrêt avant que les scientifiques ne repartent sur de nouvelles bases vers d’autres cycles de recherches, tout cela sur fonds de progrès continu.

Les robots aujourd’hui et demain

Ce que savent faire les robots : développer une puissance de calcul bien supérieure à celle des humains, acquérir de plus en plus d’autonomie, parler, simuler des émotions, créer des œuvres d’art à partir d’œuvres déjà existantes, apporter leur aide aux professionnels en matière de droit, de santé et de journalisme.

Ce que ne savent pas faire les robots : on constate chez eux une absence de sens commun, l’incapacité d’éprouver des sentiments, d’accéder à la conscience. Ils n’ont pas d’intention créatrice, pas d’émotion, pas de désir ni de curiosité.

Il reste que l’Intelligence artificielle peut apporter de notables améliorations si cette technologie est maitrisée et surtout si elle n’est pas confisquée par quelques-uns pour leur profit propre. On se trouve devant un risque majeur : que certains groupes humains jouent aux apprentis sorciers. Certains n’hésitent pas à évoquer un risque de rupture au moment où les machines deviendraient supérieures à l’homme. La capacité à copier le cerveau, à améliorer l’humain en lui adjoignant des capacités de la machine, le transhumanisme et la recherche de l’immortalité sont autant d’illusions que Laurence Devillers dénonce comme dangereuses.

Et indépendamment de ces extrêmes, il est important de prendre conscience que les risques sont réels : manipulation de l’opinion, dépendance affective, isolement, perte de liberté, amplification des stéréotypes. Laurence Devillers cite quelques anecdotes qui permettent de comprendre comment peuvent se produire des dérapages lorsqu’il y a un manque de contrôle des apprentissages machine.

Le souci principal devrait donc être de définir les bornes pratiques, notamment en terme d’éthique, et de clarifier les enjeux de cette technologie.

Des robots compagnons

La création de robots compagnons est à inscrire dans le cadre des bienfaits de l’Intelligence artificielle. A la différence des automates d’autrefois, « l’Intelligence artificielle perçoit l’environnement, l’analyse et prend une décision en conséquence mais surtout apprend. »

Les robots sociaux ou robots compagnons seront donc en capacité d’accompagner les humains dans leur vie de tous les jours, de surveiller ceux qui sont les plus faibles, de les assister et de protéger leur santé. De ce fait, ces robots doivent pouvoir acquérir un certain degré d’autonomie et être en capacité de se mouvoir de leur propre chef.

Ce sont des machines avec lesquelles les humains peuvent interagir. Elles sont en capacité de détecter des émotions et d’en simuler en réponse. « Le robot identifie les émotions d’un humain en se basant sur des indices expressifs de l’humain et du contexte et il répond par des mimiques, des intonations et des attitudes adaptées, voire par des réponses langagières que l’humain interprète facilement lorsque le robot est humanoïde ».

Ces machines sont empathiques sans être pour autant capables elles-mêmes d’émotions. Il ne s’agit donc pas de les considérer comme des doubles des êtres humains.« Un robot social est une entité artificielle située dans le monde réel qui transforme sa perception en action… Le terme vivre est inadéquat car il n’est pas une entité vivante. »

Les chercheurs ont remarqué pourtant que rien ne vaut un humanoïde pour susciter l’empathie des personnes assistées. Même s’il ne s’agit pas de confondre l’empathie avec la sympathie ou la compassion, car si l’empathie est une réaction à un stimulus, la sympathie et la compassion sont liées à un partage. Le robot ne peut en aucun cas partager car il n’est pas capable d’émotion.

Il doit certes se créer entre le robot et l’humain une relation de confiance. Et de ce fait il est important de déterminer un cadre éthique car il peut y avoir de graves dérives sur des personnes fragiles en l’absence de pareil cadre.

Laurence Devillers, qui s’est depuis de nombreuses années consacrée à la recherche sur l’éthique de la robotique sociale, signe là un livre riche de connaissances et d’interrogations. Entre aujourd’hui et 2017, date de la publication de cet ouvrage, aucune des questions pourtant essentielles posées à propos de l’intelligence artificielle n’a trouvé de réponse claire.  Elle continue de ce fait à s'interroger sur le sujet au travers de son action et de son œuvre.

Cet ouvrage s’avère donc particulièrement nécessaire en ces temps où les annonces les plus mirobolantes et les plus contradictoires à propos de l’intelligence des robots projettent chaque jour ce thème au faîte de l’actualité.