Hdr Année : 2024

Privacy issues in AI and geolocation: from data protection to user awareness

Résumé

The evolution of digital technologies and their increasing adoption have opened major opportunities, highly beneficial for society in general and for individuals in particular. However, it also poses considerable threats to privacy that require appropriate legal and ethical rules. Privacy is essential to protect individuals, for example against possible misuse of personal data. Privacy is also essential to protect society, as shown by the misuse of personal data to influence voters during elections (e.g., Cambridge Analytica). In this context of ultra-rapid development of technologies (often deployed before being regulated), my research work is focused on privacy protection. More precisely, I mainly contribute to the field by proposing technical solutions to privacy (by quantifying risks or proposing countermeasures for example), and also through interdisciplinary activities. Indeed, privacy issues cannot be solved by technology alone because they also raise legal, ethical, economic and societal questions that require a dialogue with people from different disciplines. My main contributions cover 1) issues related to the collection, exploitation and protection of location data, and more recently 2) security and confidentiality of AI. In this second axis, I focused on "privacy considerations in ML", i.e., the identification of risks related to ML technologies and countermeasures, and "exploiting ML for confidentiality", using the capabilities of these new tools to protect individuals (with the use of language models for the anonymization of medical reports for example). To address these growing privacy issues, it is necessary to quantify the new risks fueled by new technologies and new usages, and to improve the safeguarding of users' personal information by developing protection mechanisms. Finally, it is also necessary to both raise awareness among end users about the different risks in order to enable them to adapt their use, and to collaborate with key players in the field to adopt best practices.
L'évolution des technologies numériques et leurs adoptions croissantes ont ouvert des opportunités majeures, très bénéfiques pour la société en général et pour les individus en particulier. Cependant, elle pose également des menaces considérables pour la vie privée qui nécessitent des règles juridiques et éthiques appropriées. La vie privée est essentielle pour protéger les individus, par exemple contre d'éventuelles utilisations abusives des données personnelles. La vie privée est également essentielle pour protéger la société, comme l'a montré l'utilisation abusive des données personnelles afin d'influencer les électeurs lors des élections (par exemple, Cambridge Analytica). Mes travaux de recherche se situent dans ce contexte de développement ultra-rapide des technologies (souvent déployées avant d'être réglementées) et sont axés sur la protection de la vie privée. Plus précisément, je contribue principalement au domaine en proposant des solutions techniques de la vie privée (en quantifiant des risques ou proposant des contremesures par exemple), et également par le biais d'activités interdisciplinaires. En effet, les problèmes de vie privée ne peuvent être résolus par la seule technologie car ils soulèvent également des questions juridiques, éthiques, économiques et sociétales qui nécessitent un dialogue avec des personnes de différentes disciplines. Mes principales contributions couvrent 1) les problématiques liées à la collecte, à l'exploitation et à la protection des données de localisation, et plus récemment 2) la sécurité et la confidentialité de l'IA. Dans ce deuxième axe, je me suis focalisé sur les « considérations de confidentialité dans le ML », c'est-à-dire l'identification des risques liés aux technologies et contre mesures de ML, et « l'exploitation du ML pour la confidentialité », en utilisant les capacités de ces nouveaux outils pour protéger les individus (avec l'utilisation des modèles de langues pour l'anonymisation des rapports médicaux par exemple). Face à ces problèmes de vie privée croissants, il est nécessaire de quantifier les nouveaux risques alimentés par l'évolution des technologies et des usages, et d’améliorer la sauvegarde des informations personnelles des utilisateurs en développant des mécanismes de protection. Enfin, il est également nécessaire à la fois de sensibiliser les utilisateurs finaux aux différents risques afin qu'ils adaptent leur utilisation, et de collaborer avec des acteurs du terrain pour l'adoption de meilleures pratiques.
Fichier principal
Vignette du fichier
2024_antoine_HDR (16).pdf (684.06 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-04909989 , version 1 (24-01-2025)

Identifiants

  • HAL Id : tel-04909989 , version 1

Citer

Antoine Boutet. Privacy issues in AI and geolocation: from data protection to user awareness. Computer Science [cs]. Insa Lyon, 2024. ⟨tel-04909989⟩
0 Consultations
0 Téléchargements

Partager

More