• Groupe

BNP Paribas cosigne le livre blanc "Contrôle des risques des systèmes d’intelligence artificielle"

BNP Paribas a participé à la rédaction d’un livre blanc « Contrôle des risques des systèmes d’Intelligence Artificielle », piloté par l’association Hub France IA avec le concours de La Banque Postale et la Société Générale.

Le partenariat avec Hub France IA 

Dans le cadre de ce partenariat, les équipes Group Data Office et RISK AIR de BNP Paribas ont participé au groupe de travail « Banque et Auditabilité » dont l’objectif était de proposer une méthode systématique et opérationnelle d’identification des risques spécifiques des systèmes d’Intelligence Artificielle (IA), et à proposer des pistes de remédiation.


Cette collaboration a fait intervenir des acteurs des trois lignes de défense des dispositifs de contrôle interne des banques, et est un excellent exemple de collaboration entre pairs pour échanger autour de principes communs. Les bénéfices de cette réflexion sur l’Intelligence Artificielle concernent non seulement le secteur financier, mais plus largement tout acteur mettant en œuvre des systèmes d’Intelligence Artificielle. 

Qu’est-ce que l’IA chez BNP Paribas ?

Le développement et le déploiement de l’Intelligence Artificielle sont un des leviers du plan stratégique 2025 de la Banque. Plus de 500 cas d’usage sont actuellement en production et l’objectif est de doubler ce nombre et la création de valeur associée d’ici 2025. 

Les équipes AI & Analytics de BNP Paribas participent toutes à cet effort. Les usages couvrent aussi bien des problématiques d’amélioration d’efficacité opérationnelle, de gestion des risques que de création de valeur client. En complément, BNP Paribas a lancé une initiative visant à industrialiser et passer à l’échelle l’usage de l’IA à travers une task force collaborative, ai@scale, pour accélérer notamment sur les plateformes de data science, la gestion des risques, la mesure de la valeur, l’operating model pour mettre les modèles en production et la mutualisation de certains assets à l’échelle du Groupe.

Zoom sur la gestion des risques liés à l’IA

Dans la majorité des industries, bancaires ou non, et ce depuis une dizaine d’année au moins, les cas d’usages de l’Intelligence Artificielle ont été démultipliés, conduisant à l’émergence de nouveaux risques. Parmi eux, l’utilisation de l’IA pour des activités illégales ou malveillantes (deepfake, phishing, manipulation…) mais également les risques de reproduire des biais ou d’opacité de fonctionnement.

La démarche du groupe de travail avec le France Hub IA a ainsi consisté à décrire le processus de développement et de déploiement des solutions d’IA dans son ensemble, puis les risques spécifiques apportés ou exacerbés par l’IA, et enfin d’analyser plus spécifiquement certains risques sélectionnés sur la base de leur importance et de leur lien spécifique avec l’IA. Un inventaire des risques à chaque étape du processus de développement et déploiement d’un système d’IA a donc été établi, puis débattu pour aboutir à une vision commune des risques. 

Le résultat de ces travaux est disponible dans le livre blanc « Contrôle des risques des systèmes d’Intelligence Artificielle » accessible ici  :

Contrôle des risques des systèmes d’Intelligence Artificielle

Une anticipation de la future réglementation européenne

Le début des travaux a également coïncidé avec la première publication de l’AI Act publié par la Commission Européenne le 21 Avril 2021. Ce fut l’opportunité pour les membres du groupe de travail de contribuer à une réponse commune à cette proposition de réglementation et d’échanger plus généralement sur le contexte de gestion des risques propres aux systèmes d’Intelligence Artificielle.

Quels enseignements tirer de cette collaboration ?

" Le sujet des risques et de l’auditabilité des modèles d’intelligence artificielle est au cœur des préoccupations de la Banque au vu de l’essor récent de ces techniques au sein des institutions financières et compte tenu de notre forte culture dans la gestion des risques de modèles. Collaborer ouvertement avec nos homologues au sein d’autres grands groupes bancaires m’a donc semblé très utile.

Ces échanges ont permis d’affiner notre compréhension mutuelle de la sévérité relative des divers risques liés à l’intelligence artificielle. Ce qui m’a étonnée, mais aussi confortée, c’est que nous étions dans une large mesure très alignés : au-delà des risques de modélisation, les principales sources de risques perçus sont certainement la gestion de la donnée et la méconnaissance des forces et faiblesses de cet outil que représente l’IA.

L’explicabilité est un des thèmes que nous avons particulièrement explorés chez BNP Paribas, essentiel pour s’assurer de la bonne utilisation des modèles, de l’adoption, de la capacité à auditer, et plus globalement pour générer la confiance dans la solution.


Si la recherche universitaire sur l'IA explicable a été prolifique ces dernières années, il n’y a encore que peu d’études sur l’insertion opérationnelle de telles méthodes. Nous avons affiné notre compréhension des besoins en terme d’explicabilité des personnes vouées à développer et utiliser ces outils au jour le jour."

Lea Deleris, BNP Paribas - RISK AIR

En savoir plus
Portrait Lea Deleris

" L’arrivée prochaine d’une réglementation européenne sur l’Intelligence Artificielle (AI Act) nous a amené à réfléchir aux éléments de l’IA qui posent questions aujourd’hui. Il y a notamment aujourd’hui une plus grande prise de conscience qu’une adoption réussie de l’IA n’est pas uniquement quantitative, en nombre d’utilisateurs ou en performance du modèle IA par exemple, mais aussi qualitative, c’est-à-dire que les utilisateurs ou les régulateurs doivent avoir confiance à la fois dans la technologie et la manière dont elle est mise en œuvre afin de respecter des principes fondamentaux d’équité et de transparence par exemple. C’est pour cela qu’on parle d’« IA responsable »."

Jérôme Lebecq, BNP Paribas - Group Data Office, Data Science Office

Portrait  Jérôme Lebecq

Pour s'abonner à notre newsletter, c'est ici !

Choisissez vos thématiques préférées et la fréquence d'envoi