Recherche

Le Programme de recherche de l’ICSIA au CIFAR est l’organe scientifique indépendant de l’ICSIA (Institut canadien de la sécurité de l’intelligence artificielle) du gouvernement fédéral. En alliant recherche fondamentale et solutions de sécurité concrètes, nous favorisons le développement et la mise en œuvre responsables de systèmes d’IA avancés qui sont fidèles aux valeurs canadiennes.

Axes principaux

Réseaux de solutions

Des équipes multidisciplinaires reçoivent 700 000 $ sur deux ans pour élaborer et déployer des solutions concrètes répondant aux défis les plus pressants en sécurité de l’IA.

Projets Catalyseur

L’octroi d’un financement de démarrage vise à soutenir l’exploration de pistes inédites en réponse aux enjeux techniques et sociotechniques des systèmes d’IA avancés.

Projets sur l’alignement de l’IA

Cette initiative de recherche mondiale est dirigée par le UK AI Security Institute et rendue possible grâce à un octroi de 1 million de dollars du gouvernement canadien, versé par l’entremise du CIFAR. Ces fonds soutiennent des travaux d’une importance cruciale visant à garantir que les systèmes d’IA avancés demeurent fiables, adaptés aux besoins et pleinement respectueux des valeurs humaines.

Explorer

Projet sur l’alignement de l’IA

Ajustement en ligne économe en données contre les comportements réfractaires : fondements statistiques de l’alignement postérieur à l’entraînement

Abstract background with geometric shapes

Projet Catalyseur

Lois dimensionnelles, distributions des données et dynamiques d’apprentissage : les données simulées en physique des hautes énergies comme référence pour évaluer les données en conditions réelles

Projet Catalyseur

Maintenir un contrôle significatif : comment concilier agentivité et surveillance dans le codage assisté par l’IA?

Projet Catalyseur

Mise à l’essai, selon la méthode de l’équipe rouge, de mesures visant à protéger la gouvernance démocratique contre le pouvoir de persuasion de l’IA

Abstract background with geometric shapes. Lady Justice is depicted.

Réseau de solutions

Théorie économique et alignement démocratique des grands modèles de langage : préférences relatives et coordination stratégique

Projet Catalyseur

Recherche

Axes principaux

Réseaux de solutions

Projets Catalyseur

Projets sur l’alignement de l’IA

Explorer

Ajustement en ligne économe en données contre les comportements réfractaires : fondements statistiques de l’alignement postérieur à l’entraînement

Assurance de la sécurité et ingénierie pour les systèmes d’IA multimodaux reposant sur des modèles fondateurs

Assurer la sécurité des systèmes d’IA avancés par le recours à la théorie des jeux

Cadre statistique unifié pour évaluer les risques de défaillances rares des modèles de langage

CIPHER : Contrer l’influence par la mise en évidence de modèles et l’évolution des réponses

Des laboratoires de chimie autonomes et sécuritaires

Échantillonnage d’explications latentes à partir de GML au profit d’un raisonnement sûr et interprétable

Empathie performative et alignement trompeur

Faire progresser l’alignement de l’IA par le débat et le raisonnement normatif partagé

Fondements économiques de l’homologation de l’IA

Formalisation des contraintes pour l’évaluation et l’atténuation du risque agentique

La robustesse antagoniste dans les graphes de connaissances

La robustesse antagoniste de la sécurité des GML

Lois dimensionnelles, distributions des données et dynamiques d’apprentissage : les données simulées en physique des hautes énergies comme référence pour évaluer les données en conditions réelles

Maintenir un contrôle significatif : comment concilier agentivité et surveillance dans le codage assisté par l’IA?

Mise à l’essai, selon la méthode de l’équipe rouge, de mesures visant à protéger la gouvernance démocratique contre le pouvoir de persuasion de l’IA

Protéger les tribunaux contre les contenus synthétiques générés par l’IA

Réduire les biais dialectaux

Remédier aux enjeux de sécurité de l’IA par la gouvernance communautaire autochtone

Répétition, résistance et renforcement : les effets longitudinaux de l’IA conversationnelle sur l’opinion politique

Solutions sociotechniques au service de la fiabilité de l’information et de l’éducation à l’IA

Sur l’utilisation sécuritaire des modèles fondateurs à bruit statistique

Théorie économique et alignement démocratique des grands modèles de langage : préférences relatives et coordination stratégique

Vers une sécurité de l’IA ancrée dans les réalités sociales : intégration du raisonnement causal et institutionnel dans les modèles de langage