Réduire les biais dialectaux

Peut-on développer et déployer de grands modèles de langage d’une manière socialement responsable qui puisse à la fois prévenir les préjudices et assurer l’équité numérique d’un large éventail de communautés linguistiques?
L’essor mondial des grands modèles de langage constitue l’une des priorités des leaders technologiques et des gouvernements. Leur adoption massive pose toutefois un risque majeur pour la sécurité de millions de personnes. Pour les quelque 140 millions de locuteurs et locutrices du pidgin nigérian, ces systèmes d’IA avancés peuvent être des vecteurs de censure, de discrimination et d’exclusion numérique.

En raison de plusieurs obstacles systémiques, tels que la forte sous-représentation des dialectes marginalisés dans les données d’entraînement, le manque d’outils d’évaluation tenant compte des différences culturelles et les cadres réglementaires embryonnaires, il est difficile d’étendre des systèmes d’IA monolingues à la fois sûrs et inclusifs à l’ensemble des populations mondiales. Or, les communautés dont le dialecte n’est pas pris en compte dans le développement de l’IA sont moins susceptibles de profiter des progrès technologiques et davantage exposées aux préjudices causés par les biais algorithmiques, une situation qui perpétue ce qu’on peut appeler un « cycle d’exclusion numérique ».

Lever les obstacles à une IA sûre et équitable exige des efforts concertés de la part des équipes de développement, des chercheuses et chercheurs et des responsables politiques. Ces efforts se heurtent toutefois à l’absence d’outils d’analyse capables de mesurer et d’atténuer les risques de biais pour l’ensemble des populations — biais qui peuvent amener les modèles à considérer systématiquement la manière de parler d’une personne comme injurieuse, inappropriée ou nuisible.

Ce Réseau de solutions se consacrera à la cocréation citoyenne et socialement responsable d’indicateurs de biais dialectaux, d’outils d’atténuation et de solutions politiques, en collaboration avec une équipe multiculturelle du Canada et de l’Afrique, et avec la participation directe de communautés locutrices du pidgin nigérian.