IA : Tenir compte de la protection des données dans la conception du système

08 April 2024

Pour assurer le développement d’un système d’IA respectueux de la protection des données, il est nécessaire de mener une réflexion préalable lors de la conception du système. Cette fiche en détaille les étapes.

Lors de la réflexion autour des choix de conception d’un système d’IA, les principes de protection des données, et en particulier le principe de minimisation, doivent être respectés. Cette démarche s’opère à cinq niveaux. Un responsable de traitement doit ainsi s’interroger sur :

  • l’objectif du système qu’il souhaite développer ;
  • la méthode à employer qui aura une incidence sur les caractéristiques de la base de données ;
  • les sources de données mobilisées (voir la fiche sur la conformité du traitement à la loi, sur les sources ouvertes, sur les tiers, etc.) et ;
  • parmi ces sources, la sélection des données strictement nécessaires, au regard de l’utilité des données et de l’impact potentiel que leur collecte fait peser sur les droits et libertés des personnes concernées ;
  • la validité des choix précédemment opérés. Cette validation peut pendre différentes formes (non exclusives) telles que la réalisation d’une étude pilote ou l’avis d’un comité éthique.
Phase de conception

Consulter la version PDF

L'objectif du système


La méthode à employer


La sélection des données strictement nécessaires


La validité des choix de conception