Sur l’utilisation sécuritaire des modèles fondateurs à bruit statistique

À mesure que les modèles fondateurs génératifs sont employés dans un nombre croissant de domaines, leur diffusion s’accompagne de préoccupations concernant la protection de la vie privée. La titulaire de chaire en IA Canada-CIFAR Mi Jung Park abordera les problèmes de sécurité liés aux modèles à bruit statique en recourant à des techniques efficaces sur le plan du calcul et préservant l’utilité. Le projet met l’accent sur deux domaines importants : 1) la génération de contenus dits NSFW, c’est-à-dire inappropriés au travail et 2) la confidentialité et la mémorisation des données, afin de réduire les risques que les modèles enregistrent des renseignements privés, comme des numéros d’assurance sociale, à partir d’ensembles de données d’entraînement. En élaborant des techniques permettant de supprimer les points de données problématiques, Mijung Park contribuera à créer des modèles fondateurs plus sécuritaires et respectueux de la vie privée.