Labels, essais cliniques, confiance… Quels leviers pour lutter contre les biais des algorithmes ? via l’Usine Digitale

17 mars 2020

Publié par l’usine digitale le 10 Mars 2020

L’Institut Montaigne publie un rapport sur les biais des algorithmes le 10 mars 2020. Le think thank consacré aux politiques publiques en France recommande la mise en place d’un test préventif des algorithmes pour vérifier l’absence de biais, ainsi que l’instauration de labels.

Le groupe de travail, composé d’une vingtaine de personnes, estime en revanche qu’il n’est pas nécessaire d’adopter une nouvelle réglementation. Une prise de position aux antipodes de celle de la Commission européenne, qui vient de publier sa stratégie sur le sujet.

DES ALGORITHMES DISCRIMINATOIRES

« Pour lutter contre les discriminations, on peut penser que les algorithmes vont nous aider. En effet, l’utilisation d’un algorithme revient à formaliser des règles applicables à tous », déclare Anne Bouverot, présidente du conseil d’administration de Technicolor, cofondatrice de la Fondation Abeona et présidente du groupe de travail, interrogée par L’Usine Digitale.

Mais de nombreux exemples ont contredit cette idée. Début novembre 2019, le développeur David Heinemeier Hansson, créateur notamment de Ruby on Rails, affirmait preuves à l’appui que l’algorithme derrière la carte de crédit d’Apple était sexiste.

Lire la suite…

 

Gagnez du temps et retrouvez facilement les méthodes et les prestataires de tests pour valider vos revendications produits.

Preclinical

Clinical

Clinical