Assurer la sécurité des systèmes d’IA avancés par le recours à la théorie des jeux

À l’heure où les systèmes d’information deviennent de plus en plus autonomes et centrés sur l’IA, les cadres de sécurité traditionnels ne suffisent plus à remédier aux enjeux de sécurité, de contrôle et de protection de la confidentialité, en particulier dans les situations où plusieurs agents d’IA interagissent sans intervention humaine. Zhijing Jin, titulaire d’une chaire en IA Canada-CIFAR, propose de recourir à la théorie des jeux, un cadre théorique éprouvé, afin de fournir des garanties démontrables visant à limiter les comportements non conformes et à offrir des outils concrets aux responsables politiques et aux équipes de développement pour leur permettre de garder le contrôle sur les interactions multiagents.