La robustesse antagoniste dans les graphes de connaissances

L’introduction de renseignements faux ou trompeurs dans les graphes de connaissances – les modèles qui alimentent les agents de recherche et les agents conversationnels – a de graves conséquences pour la sécurité de l’IA, car elle permet à la mésinformation de s’intégrer dans les modèles et de se propager largement. Ebrahim Bagheri, professeur à l’Université de Toronto, Jian Tang, titulaire de chaire en IA Canada-CIFAR, et Benjamin Fung, professeur à l’Université McGill, concevront des défenses fondées sur l’apprentissage automatique afin de détecter et d’atténuer les modifications antagonistes dans les graphes de connaissances. En mettant au point des méthodologies évolutives d’entraînement antagoniste et d’évaluation de la robustesse, leurs travaux de recherche permettront le déploiement pratique de graphes de connaissances plus sûrs dans le monde réel.