L'intelligence artificielle créatrice de discrimination

Publié par Nada Yargui, le 2 décembre 2018   960

Xl hand 1571851 1280


Robots tueurs, voitures volantes… des éléments tout droit venus d’un blockbuster qui pourraient faire partie de notre quotidien. Sont-ils aujourd’hui l’objet de nos préoccupations ? Peut-être…  
Mais aujourd’hui, c’est la discrimination par l’Intelligence Artificielle que nous allons évoquer.  Un des côtés obscurs de l’Intelligence Artificielle, un problème de taille dont de nombreux chercheurs et organisations se saisissent.

Une discrimination qui va bien au-delà du monde artificiel, elle illustre aujourd’hui une réalité bien plus cruelle. Il existe de la discrimination dans l’Intelligence Artificielle (IA). En effet, les algorithmes mathématiques ne sont pas neutres. Ils ne font qu’apprendre ce qu’on lui donne à voir.

L’IA n’est qu’une représentation, un travail réalisé par les humains. 

Mais qu'est-ce que l'Intelligence Artificielle ?

En bref, l'Intelligence Artificielle (IA) met en œuvre un certain nombre de techniques visant à permettre aux machines d'imiter une forme d'intelligence réelle. Une notion introduite par le  mathématicien Alan Turingen dans les années 50, dans son livre Computing Machinery and Intelligence.

L'IA est partout autour de nous. Elle est utilisée dans différents domaines tels que la reconnaissance vocale ou encore dans la vision.  Artificiellement, elle déterminera le contenu d’une image que ce soit une couleur, un objet ou des visages.  C’est notamment cet usage qui pose problème. La reconnaissance des visages est obstruée par son propre créateur.

L’homme n’est pas parfait, un trait démultiplié dans l’IA.

Imiter une forme d’intelligence réelle : la raison de cette discrimination. 

Un homme n’a dans les faits rien de parfait. Un cerveau… oui, le plus intelligent des espèces vivantes… oui, mais ce dernier développe tout au long de sa vie des préférences,  des jugements qui peuvent le rendre vulnérable. Tous ces traits vont former l’homme, ils font de lui une personne ayant une identité bien à elle. Cependant, cela le rend altérable à toute objectivité. Tendre à l’objectivité est un fait mais l’objectivité en elle-même est vouée à l’échec. Ainsi, l’IA, construit de toutes pièces par l’humain, présentera des spécificités de son créateur.

Nous pouvons alors démontrer, si dans leurs données d’apprentissages il y a des biais, des stéréotypes, des injustices ou des populations sous-représentées, les algorithmes d’Intelligence Artificielle vont reproduire, amplifier, voire créer de toutes pièces de la discrimination dans leurs décisions.

Maathics, la startup qui lutte contre cette discrimination.  

Dans la région Occitanie, une startup a pour ambition de lutter contre cette discrimination. Un projet lancé par quatre architectes mathématiciens dont Anna Chouri, CEO et fondatrice de la startup Maathics.

« Nous avons créé un outil pour une société que nous voulons plus juste, et qui va permettre à nos clients de s’assurer que leurs traitements ne sont pas source de discrimination. »  Anna Chouri, Esprit-RH.

En lançant ce projet, elle propose un usage responsable et équitable de l’Intelligence Artificielle. Elle a l’espoir de responsabiliser les acteurs de l’analyse de données et de les faire réfléchir sur des questions d’éthiques. 



Image bannière : Geralt (pixabay)