Li Xiong
  |
Li Xiong est titulaire de la chaire Samuel Candler Dobbs d'informatique et professeure d'informatique biomédicale à l'Université Emory, où elle dirige le laboratoire AIMS (Assured Information Management and Sharing). Ses recherches portent sur l'intelligence artificielle fiable et respectueuse de la vie privée, avec des applications dans les domaines des soins de santé, de la santé publique et de l'intelligence spatiale. Elle est membre de l'ACM, de l'IEEE et de l'AAAS, et reconnue pour ses contributions à l'analyse de données sécurisée et respectueuse de la vie privée. Ses recherches ont été soutenues par de grandes agences gouvernementales américaines et des partenaires industriels internationaux, notamment Google, IBM, Cisco, AT&T et Mitsubishi.
Li Xiong rejoint l'IEA de Paris en septembre 2026 pour un mois dans le cadre du programme "Distinguished Fellowship" développé en collaboration avec PostGenAI@Paris porté par Sorbonne Université. Implanté au cœur de Paris, ce consortium interdisciplinaire et intersectoriel vise à faire émerger une IA éthique, inclusive et souveraine, pleinement ancrée dans les grands enjeux de notre temps.
L'IEA de Paris accueille des chercheurs internationaux afin de les accompagner dans leurs recherches sur l’intelligence artificielle, ses conséquences sur nos sociétés et les perspectives qu’elle offre pour le futur.
Sujets de recherche
IA et gestion des données fiables et respectueuses de la vie privée.
MEMOIR - Mémoire, effacement, médiation et appropriation dans les représentations de l'IA
Les grands modèles d’IA tels que ChatGPT deviennent de nouvelles portes d’accès au savoir humain. Ils sont entraînés à partir de vastes collections de données générées par l’homme, notamment des livres, des sites web, des articles, des images et d’autres traces de la vie sociale et culturelle. Ce faisant, ils condensent des pans de notre expérience collective en représentations informatiques qui déterminent ce qui apparaît comme visible, faisant autorité ou tombé dans l’oubli. Ce projet examine ces modèles en tant que formes émergentes de mémoire collective.
Il s'interroge sur la manière dont les systèmes d'IA « se souviennent » des informations, comment ils les « oublient », et qui a le pouvoir de décider de ce qui doit être conservé, supprimé ou mis en avant. Il s'intéresse tout particulièrement au rôle des technologies de protection de la vie privée et des mécanismes de gouvernance. Des outils tels que le filtrage des données, la confidentialité différentielle, le désapprentissage automatique et l'édition de modèles sont conçus pour protéger les individus et réduire les préjudices, mais ils peuvent également remodeler ce qu'un modèle apprend et ce à quoi les futurs utilisateurs auront accès.
La question centrale est de savoir comment trouver un équilibre entre confidentialité, fidélité et équité. Des mesures de protection de la vie privée strictes peuvent réduire l’exposition des données personnelles sensibles, mais elles peuvent également déformer ou effacer des informations concernant des communautés plus petites, des événements rares ou des groupes marginalisés. D’un autre côté, les modèles à haute fidélité peuvent préserver davantage de détails, mais risquent de reproduire des informations privées, préjudiciables ou biaisées. En reliant les avancées techniques en matière de protection de la vie privée dans l’IA à des questions plus larges sur la mémoire, le pouvoir et la représentation, ce projet vise à proposer un cadre permettant de comprendre comment les systèmes d’IA modifient la manière dont les sociétés préservent et accèdent à la connaissance.
Publications clés
Hong Kyu Lee, Ruixuan Liu, Li Xiong. Direct Token Optimization: A Self-Contained Approach to Large Language Model Unlearning. ACL Findings 2026
DOI : 10.48550/arXiv.2510.00125
Ruixuan Liu, David Evans, Li Xiong. Beyond Indistinguishability: Measuring Extraction Risk in LLM APIs. IEEE Security & Privacy, 2026
DOI : 10.48550/arXiv.2604.18697
Ruixuan Liu, Toan Tran, Tianhao Wang, Hongsheng Hu, Shuo Wang, Li Xiong. ExpShield: Safeguarding Web Text from Unauthorized Crawling and Language Modeling Exploitation. NDSS 2026
DOI :10.14722/ndss.2026.240011
|
|
|
|
|
|