DATACAMP#11: Comment mesurer les biais des données pour l'IA ?

Les incidents et les risques engendrés par l'IA sont aujourd'hui nombreux : chute de performance, discrimination, faille de sécurité, modèle de responsabilité altérée, etc. Face à ces incidents, le data management a un rôle primordial pour gérer les risques dès la phase amont des projets IA. Cela passe par la mise en place de tests des biais de l'IA. Dans ce webinaire, nous présenterons en détail une méthodologie pour le test des données de l'IA. Nous nous appuierons sur la solution Giskard pour présenter une démo sur des cas pratiques."

Lors de la précédente Masterclass nous avions échangé sur les dysfonctionnements de « l’Hôpital Bonne Santé » occasionnés par des données de mauvaise qualité. Nous avions ouvert des pistes d’amélioration.

Cette fois-ci, nous intervenons après le lancement trop rapide du projet de remédiation qui soulève des doutes de la part des acteurs :
- les métiers se demandent pourquoi ils sont autant sollicités
- la DSI considère que ce n'est pas à elle de mener ce projet
- la gestion de la conformité n'est pas persuadée que ce sujet soient correctement pris en compte

Que convient-il de faire à votre avis ?