La base légale de l’intérêt légitime : fiche focus sur la diffusion des modèles en source ouverte (open source)

10 juin 2024

Compte tenu des bénéfices qu’elles peuvent présenter, les pratiques d’ouverture sont à prendre en compte dans l’évaluation de l’intérêt légitime d’un fournisseur de système d’IA. Il est toutefois nécessaire d’adopter des garanties permettant de limiter les atteintes qu’elles peuvent porter aux personnes.

L’ouverture en intelligence artificielle

Devant l’absence d’une définition communément admise pour la diffusion d’un modèle d’IA en source ouverte, la CNIL observe que l’ouverture dans ce domaine correspond en réalité à des pratiques diversifiées. Si la publication des paramètres du modèle est une condition minimale pour parler d’ouverture, d’autres pratiques peuvent être bénéfiques dans de nombreux cas. Ces pratiques peuvent être classées en plusieurs catégories :

La transparence sur le développement du modèle, dont la publication :
- de la documentation de la procédure suivie pour développer le modèle (y compris la phase de collecte des données d’apprentissage), éventuellement sous la forme d’une publication scientifique,
- du code utilisé pour entraîner le modèle,
- des données d’entraînement.
La transparence sur le modèle obtenu, dont la publication :
- d’une documentation du modèle, détaillant par exemple son architecture, ses performances, et ses limitations, et pouvant prendre la forme d’une fiche descriptive (souvent appelée model card en anglais),
- des poids du modèle.
L’accès donné au modèle, dont la publication :
- d’une bibliothèque permettant son utilisation,
- d’une API permettant de l’utiliser,
- du code permettant d’utiliser le modèle,
- du modèle sous une licence permettant son utilisation, sa modification, ou sa redistribution.

Certaines de ces pratiques, comme la publication des données d’entraînement, peuvent néanmoins comporter des risques pour les personnes concernées, et ne peuvent ainsi être recommandées dans tous les cas. La diffusion en source ouverte peut présenter des bénéfices, même si tous les éléments listés ci-dessus ne sont pas diffusés. La publication de certains éléments peut toutefois être nécessaire pour assurer un gain significatif en termes de transparence ou de contrôle par les pairs. Dans ces cas, des mesures complémentaires sont recommandées pour limiter l’atteinte aux droits des personnes.

Les bénéfices de l’ouverture en IA

La diffusion en source ouverte peut présenter des bénéfices importants pour le responsable du traitement, en ce qu’il peut profiter des contributions de la communauté ou encore augmenter l’attrait de son modèle en facilitant son adoption par les autres acteurs.

Elle présente également de nombreux bénéfices pour les activités de recherche et en matière d’innovation scientifique, comme par exemple le partage de connaissance entre développeurs de la communauté open source (OS), la meilleure accessibilité pour les étudiants, la conception et la publication d’autres outils liés ou utilisant les modèles diffusés, ou encore l’harmonisation des pratiques et l’interopérabilité des modèles et systèmes.

La diffusion en source ouverte peut également avoir des avantages pour les personnes dont les données sont utilisées en phase de développement, les utilisateurs du modèle ou encore les personnes dont les données sont utilisées en phase de déploiement. Cette diffusion peut permettre :

d’augmenter la transparence du modèle et de son fonctionnement, et ainsi l’exercice des droits des personnes ;
de permettre la vérification des capacités et limitations du modèle (comme sa performance théorique sur les données d’entraînement ou d’autres jeux de données, ainsi que son comportement sur des cas limites ou dans des conditions particulières) ;
de vérifier ou constater la présence de biais afin de les réduire ou de les corriger. Le niveau de contrôle varie toutefois selon les éléments concernés par l’ouverture du modèle : par exemple, selon que seul le modèle est ouvert (ce qui permet d’étudier la présence de biais lors de son utilisation) ou que sont aussi ouverts les poids et les données du modèle et que le processus de constitution de la base de données est suffisamment documenté (ce qui permet alors d’identifier de potentiels biais dans les données introduits par les méthodes de collecte, d’annotation ou de pré-traitement des données) ;
de détecter et corriger les vulnérabilités du modèle pour en améliorer la sécurité (par exemple, s’agissant de la mémorisation ou non de données personnelles pendant l’apprentissage, de la possibilité de génération de contenus illicites, comme les contenus haineux ou incitant à des comportements dangereux, ou encore de l’analyse des performances du modèle), bien que cela puisse parfois nécessiter l’accès ou la connaissance des données utilisées pour l’entraînement .

La possibilité de prendre en compte ces bénéfices, ainsi que leur ampleur, dépendra du périmètre des éléments diffusés en source ouverte parmi la liste des éléments listés plus haut.

Les bénéfices permis par la diffusion d’un modèle en source ouverte peuvent être pris en compte dans l’évaluation de l’intérêt légitime du responsable du traitement en phase de développement. Elle peut permettre :

de renforcer l’intérêt légitime des responsables de traitements, au regard des bénéfices pour la recherche scientifique et pour garantir la qualité du modèle face aux risques d’illicéité en phase d’utilisation, notamment en matière de discrimination lorsque le modèle contient des biais ;
de constituer une garantie additionnelle pour les traitements en phase de développement, notamment lorsqu’elle présente des bénéfices en matière de transparence, de responsabilisation des acteurs ou encore de contrôle par les pairs.

Les risques liés à l’ouverture en IA

La diffusion en source ouverte peut toutefois présenter des risques potentiellement significatifs :

concernant la réutilisation illicite ou malveillante du modèle : la multiplicité des réutilisations possibles et non maîtrisées, du fait même de la diffusion en source ouverte des modèles, risque de conduire à des utilisations illicites en phase de déploiement. S’il n’est pas possible d’anticiper toutes les réutilisations qui peuvent être faites, le responsable de traitement doit tenir compte des risques envisageables dès la phase de développement et, en complément d’éventuelles mesures techniques, les interdire dans la licence d’utilisation du modèle.
concernant la sécurité du modèle : Il existe des risques d’exploitation par les attaquants des failles du modèle, rendues apparentes, risque en matière de traçabilité, détournement des modèles diffusés en source ouverte compte tenu de la facilité accrue de supprimer ou de contourner les filtres et sécurités ajoutés aux systèmes ;
lorsque le modèle contient des données personnelles, ou lorsque les données d’entraînement sont également publiées (voir le « questionnaire sur l’application du RGPD aux modèles d’IA ») :
- concernant la confidentialité des données d’entraînement. Ce risque va de soi lors de la publication des données d’entraînement, mais la possible mémorisation des données d’entraînement par le modèle et les risques liés doivent également être pris en compte (comme les risques de régurgitation des données lors de l’utilisation, ou d’attaques par inférence à partir du modèle diffusé) ;
- liés aux difficultés d’assurer l’exercice des droits des personnes tout au long de la chaîne d’utilisation et de redistribution du modèle.

Compte tenu de ces risques, la diffusion en source ouverte pourrait notamment contrarier les attentes raisonnables de la personne (par exemple, lorsque le modèle a mémorisé des données d’apprentissage permettant aux réutilisateurs d’y avoir accès, ou en cas de réutilisation malveillante).

Les garanties additionnelles à apporter

De ce fait, la diffusion en source ouverte ne pourra être prise en compte dans l’évaluation de l’intérêt légitime ou comme garantie supplémentaire que sous réserve de la mise en place de certaines garanties appropriées. Les mesures suivantes sont ainsi recommandées :

S’assurer que les éléments qui font l’objet de l’ouverture permettent un niveau suffisant de transparence, un contrôle effectif par les pairs et une contribution réelle à la communauté open source ou à la recherche scientifique, en prévoyant, a minima, la publication des éléments suivants :
- Les paramètres du modèle (y compris les poids correspondant à l’apprentissage par renforcement lorsque la publication de ces derniers ne met pas à risque le modèle économique du concepteur, pour qui ces poids représentent généralement une valeur importante) ;
- Le code nécessaire pour utiliser le modèle ;
- Une fiche descriptive du modèle incluant des informations sur son architecture, ses performances, et ses limitations ;
- Une fiche descriptive des données utilisées pour l’apprentissage, l’ajustement ou l’amélioration du modèle sur la base de celle proposée en annexe de la fiche « Tenir compte de la protection des données dans la collecte et la gestion des données ».
- La publication de la base de données d’apprentissage permettrait un contrôle accru par les pairs, notamment pour la détection et la correction des éventuels biais. Cela n’est toutefois possible qu’à condition que cela ne porte pas une atteinte disproportionnée aux droits et libertés des personnes, notamment en mettant en place des mesures nécessaires (sécurisation des données, comme l’anonymisation/pseudonymisation des données, information accrue des personnes, mesures permettant d’assurer l’exercice des droits le long de la chaîne des acteurs, etc.).
- La diffusion du modèle sous une licence permettant de contribuer à la communauté OS, et autorisant notamment son téléchargement, sa modification, et sa réutilisation dans le respect des conditions listées ci-dessous.

Ces recommandations rejoignent la dernière version de la proposition de règlement sur l’IA, qui prévoit certaines dérogations pour les systèmes et modèles d’IA publiés sous une licence suffisamment ouverte, en soulignant à cet égard l’importance de l’ouverture des paramètres (y compris les poids) ainsi que des informations sur l'architecture et l'utilisation des modèles en question.

Mettre en place des mesures juridiques (par exemple, des licences restrictives) permettant de limiter la réutilisation des modèles ainsi que des mesures techniques (par ex. tatouage numérique) permettant de tracer et de contrôler certaines réutilisations. Par exemple, l’utilisation des modèles BLOOM est encadrée par une licence de réutilisation qui prévoit une restriction des usages qui peuvent en être faits ;
Mettre en place des mesures techniques de sécurisation des données telles que l’anonymisation ou la pseudonymisation des données ou la réalisation d’analyses pour mesurer les risques de régurgitation ou de fuite des données ;
Mettre en place des mesures pour garantir l’information des personnes et l’exercice des droits telles qu’une information accrue des personnes ou des mesures techniques permettant d’assurer la transmission de l’exercice des droits le long de la chaîne des acteurs. Pour ce dernier cas, il peut s’agir :
- de prévoir dans les conditions générales l’obligation de répercuter les effets de l’exercice des droits d’opposition, de rectification ou d’effacement sur les systèmes développés ultérieurement ;
- d’assurer la traçabilité des téléchargements effectués dans les cas les plus à risques (par exemple en conservant les informations de contact des personnes ou organismes les téléchargeant), ce qui peut permettre une meilleure mise en œuvre des droits des personnes, bien que cela ne soit pas fidèle aux principes de l’open source ;
- de désactiver le téléchargement des versions antérieures d’un modèle d’IA, par exemple dans le cas où celui-ci aurait été modifié à la suite d’une demande d’exercice de droits d’opposition, de rectification ou d’effacement. Là encore, une traçabilité des téléchargements peut permettre d’informer les réutilisateurs de l’existence de cette nouvelle version et ainsi les encourager à l’utiliser.

En savoir plus :

Pour plus d’informations sur les bénéfices et les risques de l’open source, voir la note d’analyse « Les pratiques open source en intelligence artificielle » ;
Pour plus d’informations sur la base légale pour la diffusion publique d’une base de données, voir la Fiche principe n° 2 du Projet de guide pratique sur l’ouverture et la réutilisation de données publiquement accessible.