Exploiter l'équité d'un modèle d'apprentissage pour reconstruire les attributs sensibles de son ensemble d'entraînement - Équipe Recherche Opérationnelle, Optimisation Combinatoire et Contraintes Access content directly
Conference Papers Year : 2023

Exploiter l'équité d'un modèle d'apprentissage pour reconstruire les attributs sensibles de son ensemble d'entraînement

Abstract

Pour palier les biais non désirés en apprentissage supervisé, de nombreux travaux utilisent des métriques d'équité statistique, définies vis-à-vis de certains attributs sensibles. Bien que ceux-ci ne soient généralement pas utilisés par le modèle appris au moment de l'inférence, ils le sont souvent pendant son entraînement pour contrôler l'équité. Nous montrons ainsi qu'un attaquant disposant d'un accès en boîte noire à un tel modèle peut utiliser le fait qu'il soit équitable pour reconstruire les attributs sensibles de son ensemble d'entraînement. L'approche proposée consiste à corriger une première reconstruction effectuée par un attaquant de la littérature, pour se conformer avec l'information de l'équité. Notre large évaluation expérimentale confirme que ce processus de correction permet d'améliorer les performances de l'attaque de manière significative.
Fichier principal
Vignette du fichier
RJCIA2023_paper_3.pdf (505.95 Ko) Télécharger le fichier
Origin Files produced by the author(s)

Dates and versions

hal-04190265 , version 1 (29-08-2023)

Identifiers

  • HAL Id : hal-04190265 , version 1

Cite

Julien Ferry, Ulrich Aïvodji, Sébastien Gambs, Marie-José Huguet, Mohamed Siala. Exploiter l'équité d'un modèle d'apprentissage pour reconstruire les attributs sensibles de son ensemble d'entraînement. Rencontres des Jeunes Chercheurs en Intelligence Artificielle (RJCIA/PFIA 2023), Jul 2023, Strasbourg, France. ⟨hal-04190265⟩
84 View
25 Download

Share

Gmail Mastodon Facebook X LinkedIn More