Newsroom

Algorithmes : biais, discrimination et équité

Les algorithmes s’immiscent de plus en plus dans notre quotidien, à l’image des algorithmes d’aide à la décision (algorithme de recommandation ou de scoring), ou bien des algorithmes autonomes embarqués dans des machines intelligentes (véhicules autonomes).
Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ils sont accusés d’être des boîtes noires et de conduire à des pratiques discriminatoires liées au genre ou à l’origine ethnique.

Les chercheurs Patrice Bertail (Université Paris Nanterre), David Bounie, Stephan Clémençon et Patrick Waelbroeck (Télécom ParisTech) se sont attachés à la rédaction d’un article pour décrire les biais liés aux algorithmes et esquisser des pistes pour y remédier. Ils se sont intéressés en particulier aux résultats des algorithmes en rapport avec des objectifs d’équité et à leurs conséquences en termes de discrimination.

Trois grandes questions motivent cet article : par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ?

Dans une première partie les auteurs décrivent comment fonctionne un algorithme d’apprentissage statistique. Puis ils s’intéressent à l’origine de ces biais qui peuvent être de nature cognitive, statistique ou économique. Ils présentent ensuite quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Une discussion sur les principaux enjeux de société soulevés tels que l’interprétabilité, l’explicabilité, la transparence et la responsabilité conclut l’article.

Fondation AbeonaCe travail a été réalisé avec le soutien financier de la Fondation Abeona . Sous égide de la Fondation de France, la Fondation Abeona a pour objet de soutenir des projets de recherche pluridisciplinaires utilisant les sciences des données et de catalyser la réflexion sur le sujet de l’équité en intelligence artificielle.

Le texte complet de cet article est accessible en téléchargement ou visualisable ci-dessous, afin que chacun puisse s’emparer de ces questions fondamentales.

Algorithmes - Biais, discrimination, equite