Mise à l’essai, selon la méthode de l’équipe rouge, de mesures visant à protéger la gouvernance démocratique contre le pouvoir de persuasion de l’IA

Alors que les instances décisionnelles s’appuient de plus en plus sur l’IA, les dispositifs de sécurité actuels, comme le contrôle par les pairs, sont souvent trop lents pour être efficaces. Ce projet aborde les risques liés à l’influence de systèmes d’IA avancés aptes à fausser les échanges démocratiques par une rhétorique biaisée et persuasive. Dans le cadre de sondages expérimentaux à grande échelle et de séances de délibération en petits groupes, l’équipe évaluera, selon la méthode de l’équipe rouge, l’efficacité de dispositifs de sécurité destinés à détecter et à invalider en temps réel toute information biaisée par l’IA. En produisant des données empiriques sur la capacité de persuasion de l’IA, ce projet offrira des orientations concrètes pour les politiques publiques canadiennes afin de garantir que la prise de décision démocratique reste à l’épreuve de toute manipulation lors des grandes consultations publiques.