IA : votre assistant vocal connaît-il votre vie privée ?

Une expérience de terrain auprès du grand public

Accompagnée de la Fédération des centres sociaux de Vendée et de leur café mobile, la CNIL s’est rendue sur une place publique à La Roche-sur-Yon pour proposer à plusieurs passants d’échanger avec Germain, « un nouvel assistant vocal utilisant de l’intelligence artificielle ».

Intrigués par le dispositif, les habitants ont interrogé l’assistant sur leurs besoins quotidiens : rechercher le numéro de téléphone d’une agence de voyages, savoir comment arrêter de fumer, identifier des circuits de vélo autour de son domicile ou encore savoir s’ils allaient réussir leurs examens, etc.

À l’issue des échanges, les participants ont pu découvrir qu’ils avaient en réalité parlé avec un agent de la CNIL, caché dans un lieu à proximité, et qu’ils avaient confié de nombreuses données personnelles au fil de la discussion, parfois sans s’en rendre compte.

– Témoignage d'une participante

Les interactions avec un agent conversationnel peuvent accentuer la transmission de données

En échangeant avec le sociologue du Laboratoire d'innovation numérique de la CNIL (LINC) et un chercheur de l’École nationale supérieure des arts décoratifs (ENSAD), les participants ont relevé certains facteurs qui ont favorisé ce partage de leurs données : 

• Les IA, comme celles utilisées pour le service à la clientèle ou pour des assistants vocaux, posent souvent des questions directes, parfois personnelles, qui semblent anodines ou pertinentes pour résoudre un problème. La nature de ces questions peut cependant nous inciter à répondre sans prendre conscience de la quantité d’informations partagées.
• Les échanges reproduisent les conditions d’une conversation humaine et favorisent davantage un échange spontané d’informations au fil de la discussion.  
• L’interaction avec une IA peut être perçue comme étant sous contrôle, avec la possibilité d’arrêter la conversation à tout moment ou de ne pas répondre à une question. Cela peut ainsi renforcer une impression de sécurité qui facilite parfois le partage d’informations initialement considérées comme privées.

– Témoignage d'un participant

Les 8 conseils pour échanger avec un assistant vocal

Lorsque vous interagissez avec un assistant virtuel via un appareil dédié ou sur votre téléphone, les informations que vous fournissez sont libres et peuvent parfois contenir des données personnelles, voire des données sensibles (par exemple sur votre santé, votre orientation sexuelle ou votre religion) sur vous comme sur votre entourage familial, amical, professionnel.

Ces informations peuvent alors être conservées, partagées ou réutilisées par le service. Des gestes simples peuvent vous aider à mieux protéger vos données et votre vie privée :

1. Ne partagez que le strict minimum d'informations nécessaire pour obtenir une réponse. Si l’assistant vous demande des informations personnelles, réfléchissez à leur utilité réelle.
2. Ne confiez pas des données sensibles ou intimes telles que vos informations de santé, vos coordonnées bancaires ou vos mots de passe.
3. Soyez conscient de ce que vous avez partagé au fil des conversations et supprimez régulièrement vos données.
4. Formulez des questions claires et simples pour éviter toute incompréhension par l’assistant.
5. Privilégiez les dispositifs qui vous permettent de désactiver l’analyse de vos données.
6. Si vous le souhaitez, exercez votre droit d’accès aux données collectées en contactant l’éditeur du service (consultez la politique de confidentialité qui doit comporter une rubrique relative à l’exercice de vos droits).
7. Les réponses des assistants ne sont pas toujours fiables. N’hésitez pas à vérifier les informations obtenues grâce à d’autres sources. 
8. En cas de doute sur la nature de votre interlocuteur (robot ou humain), consultez les conditions d’utilisation ou contactez le concepteur du service.