audit-AI : Un outil pour lutter contre les biais en apprentissage automatique
audit-AI est une bibliothèque Python basée sur pandas et sklearn. Elle met en œuvre des algorithmes d'apprentissage automatique soucieux d'équité. Son objectif est de mesurer et d'atténuer les effets des biais dans les données d'entraînement et les prédictions des algorithmes d'apprentissage automatique utilisés pour des processus de décision sensibles socialement.
L'outil permet de tester le biais en comparant les taux de réussite des différents groupes démographiques. Il utilise des tests statistiques tels que le test du khi-deux, le test de Fisher, le test z, le facteur de Bayes et d'autres pour déterminer s'il existe des différences significatives.
audit-AI offre également des outils pour vérifier les différences au fil du temps ou entre différentes régions. Par exemple, il utilise le test de Cochran-Mantel-Hanzel, un test courant dans les cercles réglementaires.
Pour l'installation, le code source est hébergé sur GitHub et on peut installer la dernière version avec pip. Il est également nécessaire d'installer scikit-learn, numpy et pandas.
Des exemples de jeux de données sont disponibles, tels que german-credit et student-performance.
En somme, audit-AI est un outil précieux pour garantir l'équité et la fiabilité des modèles d'apprentissage automatique.
