AI Governance in Canadian Banking: Fairness, Credit Models, and Equality Rights

Abstract

The question of fairness is currently in the spotlight in discussions around artificial intelligence (AI). As AI is increasingly adopted in the banking sector, it is important for enablers to ensure that AI-deployed decisions respect fundamental rights, including equality rights, both legally and ethically. This will likely entail novel applications of existing anti-discrimination legislation. In this paper, we shed a critical light on issues of fairness in the banking context by applying equality rights frameworks to AI, using credit models as an exemplar. The paper is geared toward bankers, lawyers and judges seeking to understand and apply the law and develop governance practices for AI models used by Canadian financial institutions (FIs). We argue that, to a significant extent, existing legal and regulatory frameworks “reach” AI deployed by FIs. Considering the potential issue of unfairness in particular, we examine the landscape of Canadian human rights legislation and how anti-discrimination law mechanisms can be used to uphold the principle of fairness in AI- driven decisions. The paper concludes by discussing the importance of robust AI governance and outlining best practices for developing robust governance frameworks at the institutional level. La question de l’equite est actuellement a l’honneur dans les discussions concernant l’intelligence artificielle (l'IA). Puisque l’IA est de plus en plus adoptee dans le secteur bancaire, il est important que les facilitateurs de l’IA s’assurent que les decisions deployees par celle ci respectent les droits fondamentaux, notamment les droits a l’egalite, tant sur le plan juridique que sur le plan ethique. Il est a prevoir que la tâche donnera naissance a des applications novatrices de la legislation antidiscrimination actuelle. Dans le present article, nous jetons un regard critique sur des questions d’equite dans le contexte bancaire en appliquant a l’IA des cadres d’analyse relevant des droits a l’egalite, les modeles de credit servant ici d’exemple. L’article s’adresse aux banquiers, aux avocats et aux juges qui cherchent a comprendre et a appliquer le droit et a elaborer des pratiques en matiere de gouvernance applicables aux modeles d’IA utilises par les institutions financieres canadiennes (les institutions financieres). Nous faisons valoir que, dans une large mesure, les cadres legislatifs et reglementaires actuels « atteignent » l’IA deployee par les institutions financieres. Sur la question eventuelle de l’iniquite tout particulierement, nous nous penchons sur le portrait legislatif au Canada en matiere de droits de la personne et sur la question de savoir comment les mecanismes prevus par les lois antidiscrimination peuvent servir a defendre le principe de l’equite dans les decisions animees par l’IA. En conclusion, l’article traite de l’importance d’une gouvernance robuste vis a vis de l’IA et esquisse des pratiques exemplaires permettant d’elaborer des cadres de gouvernance robustes au niveau institutionnel.