Échantillonnage d’explications latentes à partir de GML au profit d’un raisonnement sûr et interprétable

S’assurer que les GML produisent des résultats fiables et interprétables constitue un objectif majeur de la communauté de recherche sur la sécurité de l’IA. Le titulaire de chaire en IA Canada-CIFAR Yoshua Bengio veillera à ce que les GML fournissent des explications plus fiables en déployant des réseaux de flot génératif d’une manière novatrice. Il se consacre à entraîner l’IA à expliquer ce que disent les humains, en examinant les raisons cachées qui sous-tendent les décisions de l’IA et en évaluant leur précision afin de démêler les causes sous-jacentes de ce que l’IA produit. En fin de compte, ce projet vise à établir un garde-fou de surveillance pour les agents d’IA qui peut mener à un déploiement plus sécuritaire de l’IA dans de nombreuses applications.