Vers une sécurité de l’IA ancrée dans les réalités sociales : intégration du raisonnement causal et institutionnel dans les modèles de langage

Ce projet vise à atténuer les risques que représentent des systèmes d’IA déconnectés des réalités sociales, qui ne tiennent pas compte des normes culturelles et des contextes institutionnels. Malgré leur sophistication technique, les modèles d’IA reposent souvent sur des corrélations superficielles, susceptibles de véhiculer involontairement des biais sociaux préjudiciables. À l’intersection de la sociologie et de l’informatique, ce projet vise à développer des architectures agentiques et des modules de raisonnement causal pour amener l’IA à tenir compte du contexte social dans ses interactions. À terme, ce projet transcendera le simple contrôle comportemental pour instaurer une responsabilité relationnelle permettant aux systèmes d’IA de trouver leurs repères dans des écologies humaines complexes, tout en favorisant une coordination plus fiable entre l’être humain et l’IA.