Biais, métriques d'équité, loi européenne sur l'IA, tatouage numérique et déploiement responsable.
Des erreurs systématiques dans les sorties d'un modèle qui avantagent ou désavantagent injustement certains groupes, reflétant souvent des biais présents dans les données d'entraînement.
ex. Un modèle de recrutement entraîné sur des données historiques désavantageant les candidates.Une garantie mathématique selon laquelle l'ajout ou le retrait d'un seul enregistrement modifie à peine la distribution des sorties d'un modèle, protégeant ainsi la confidentialité individuelle.
ex. Ajouter du bruit calibré pendant l'entraînement afin que les données d'une seule personne ne puissent pas être rétro-ingénierées.Une politique ou une pratique en apparence neutre qui nuit de manière disproportionnée à un groupe protégé, même sans intention de discriminer.
ex. Une règle de notation de prêt qui refuse involontairement un groupe protégé à un taux plus élevé.La loi contraignante de l'Union européenne qui classe les systèmes d'IA par niveau de risque et fixe des exigences proportionnées à ce risque.
ex. Interdire la surveillance biométrique en temps réel dans les espaces publics à des fins répressives, avec des exceptions restreintes.La capacité à comprendre et à expliquer pourquoi un modèle a produit une sortie ou une décision particulière.
ex. Mettre en évidence quels mots d'un CV ont le plus influencé le score d'un modèle de recrutement.Un critère formel, comme la parité démographique ou l'égalité des chances, utilisé pour vérifier si un modèle traite différents groupes équitablement.
ex. Vérifier qu'un modèle de prêt approuve des candidats de différents groupes à des taux similaires.