Comment développer une Intelligence Artificielle inclusive et fiable ?

  • Rim Tehraoui Chief Data Officer
  • 19.11.2021

Que nous en soyons conscients ou non, l’intelligence artificielle et les algorithmes sont aujourd’hui omniprésents. Ils sont entrés dans notre quotidien pour nous aider dans nos prises de décisions et guider dans nos choix. Dans l’industrie bancaire en général, et au sein de BNP Paribas en particulier, ils se généralisent et trouvent leurs applications dans différents services et produits en vue d'améliorer l'expérience client. Rim Tehraoui, Chief Data Officer de BNP Paribas, nous explique les défis liés à cette technologie en plein essor. Comment le Groupe s’organise pour optimiser son efficacité et bénéficier à ses clients, tout en contrôlant étroitement les dérives et les biais qui peuvent en résulter ?

Le développement rapide de l’intelligence artificielle est source de progrès mais pose également de nombreuses questions. Comment la décririez-vous ? 

Une définition généralement acceptée assimile l’intelligence artificielle à « la théorie et le développement de systèmes informatiques capables d’effectuer des tâches nécessitant normalement une intelligence humaine, telles que la perception visuelle, la reconnaissance vocale, la prise de décision et la traduction entre les langues ».

Dans sa forme la plus simple, l’IA combine l’informatique et les données pour permettre la résolution de problèmes. Mais de plus en plus, l’IA est associée à l’apprentissage. C’est par l’apprentissage qu’un système intelligent capable d’exécuter une tâche peut améliorer ses performances avec l’expérience, et sera capable d’apprendre à effectuer de nouvelles tâches et d’acquérir de nouvelles compétences. Ainsi, l’apprentissage automatique et l’apprentissage profond (le deep learning) sont les deux sous-domaines qui sont fréquemment mentionnés en conjonction avec l’intelligence artificielle.

nous devons nous assurer que l’IA est déployée dans notre organisation conformément à nos valeurs et à notre code de conduite

Avec l’explosion des données produites par notre société et l’augmentation exponentielle de la puissance de calcul, l’IA fournit aujourd’hui une technologie de pointe au service de l’innovation dans pratiquement tous les secteurs économiques. 

Comme beaucoup d’acteurs, BNP Paribas adopte l’IA pour améliorer son efficacité opérationnelle et la manière dont la Banque sert ses clients. Cependant, comme pour toute nouvelle technologie, nous devons nous assurer que l’IA est déployée dans notre organisation conformément à nos valeurs et à notre code de conduite.

Concrètement, cela signifie que nous nous efforçons de :

  •  mettre l’accent sur les dimensions éthiques et veiller à ce que l’IA ne reproduise pas de stéréotypes ou de discriminations sociales ou culturelles
  • veiller à ce que les algorithmes ne portent pas atteinte aux droits fondamentaux humains, de la vie privée et la confidentialité des données à l’accès aux services essentiels- créer les conditions de confiance.
  • promouvoir une IA qui maintient l’humain au centre du dispositif 
En résumé, nous voulons avoir grâce à l’IA, un impact positif sur toutes nos parties prenantes.
Rim Tehraoui, Chief Data Officer BNP Paribas

Comment l’IA se matérialise-t-elle au sein de BNP Paribas ?

Chez BNP Paribas, nous utilisons l’IA dans une grande variété de domaines. Nous nous concentrons sur des projets qui visent à améliorer la connaissance de nos clients, ainsi que l’expérience que nous leur offrons à travers nos produits et services. 

Par exemple, les chatbots implémentés dans nos réseaux utilisent l’IA pour comprendre plus rapidement les problèmes de nos clients et leur fournir des réponses plus efficaces. Récemment, Cetelem Brésil a mis en place un chatbot très efficace au sein de la plate-forme de messagerie sociale WhatsApp. Son objectif est de faciliter l’interaction avec les clients en fournissant des réponses rapides en temps réel, en les guidant vers nos produits et services et en permettant les transactions 24h/24.

L’IA permet également de développer des conseillers virtuels, ou robo-advisor. Un bon exemple est l’acquisition d’une participation majoritaire dans la fintech Gambit par BNP Paribas Asset Management, permettant d’offrir aux clients de nos réseaux de Banque de Détail et de Banque Privée des solutions de conseil en investissement basées sur la puissance des algorithmes. Nous avons également des projets qui améliorent l’efficacité opérationnelle de BNP Paribas, tels que l’automatisation des processus ou l’aide à la décision

Enfin, nous utilisons l’IA pour améliorer notre gestion des risques et de la conformité, en matière de lutte contre la fraude ou le blanchiment d’argent notamment. Aujourd’hui, l’IA est une pratique largement répandue et en rapide développement avec des équipes dédiées et des compétences réparties dans la plupart de nos métiers et de nos fonctions.

Pourquoi est-il indispensable d’assurer un développement éthique de l’IA ?

L’IA est un puissant catalyseur d’innovation et d’efficacité à condition que son utilisation soit fondée sur des valeurs et une éthique saine. Pour moi, l’éthique, c’est de bien comprendre la différence entre ce que vous avez le droit de faire et ce qui est juste de faire. En ce qui concerne l’IA et par capillarité les données - car l’IA ne peut pas se produire sans données -, cela doit se traduire par la différence entre une approche de conformité et le développement d’une véritable culture soutenant une utilisation responsable et durable de l’IA et des données

L’IA est un puissant catalyseur d’innovation et d’efficacité à condition que son utilisation soit fondée sur des valeurs et une éthique saine.

Cependant, il faut reconnaitre que les humains sont prédisposés à avoir des préjugés, qu’ils soient conscients ou inconscients. Ces biais cognitifs sont profondément enracinés dans de nombreux aspects de notre environnement économique et social : au travail, en matière de santé, à l’école, dans les domaines du droit ou du marketing, etc. Il n’est donc pas surprenant que les biais s’infiltrent également dans chaque octet des données que notre société produit et, par conséquent, dans les algorithmes entraînés sur ces données. Ce risque est malheureusement réel et trop d’incidents ont déjà montré que des modèles d’IA, de formes différentes, peuvent présenter des biais, traitant par exemple différemment des personnes d’origine raciale ou de sexe différent. 

C’est pourquoi il est extrêmement important d’établir les bons garde-fous contre cela. C’est notamment pour cette raison que nous avons signé, en septembre 2020, l’engagement du Women’s Forum pour une IA inclusive,  dans le cadre de notre forte volonté à assurer une utilisation responsable de l’IA.

Cliente en ligne avec un chatbot

Et concrètement, comment le Groupe gère-t-il ces enjeux ?

Je suis fermement convaincue que l’éthique vient avec la sensibilisation, et cela ne peut pas être la responsabilité d’une équipe dédiée mais bien l’affaire de tous. Cela vient avec la culture et la compréhension de ce qu’est une donnée et de ce qu’il convient d’en faire. En pratique, pour BNP Paribas, cela se traduit par :

  • La transparence dans la façon dont nous collectons et traitons les données
  • L’intégration de la confidentialité des données à toutes les étapes du développement des produits et services 
  • Donner à chacun le contrôle sur leurs données, et grâce à leurs données
  • S’assurer que les préjugés sociaux, sexistes ou autres qui existent dans nos sociétés n’affectent pas négativement les personnes et en particulier les personnes vulnérables
Pour le dire simplement, il s’agit de traiter les informations personnelles de quelqu’un d’autre comme vous souhaiteriez que les vôtres, ou celles de vos enfants soient traitées.


Avec le Women’s Forum, nous nous sommes engagés à mettre en œuvre un certain nombre d’initiatives tout au long de 2021. Je peux vous donner 2 exemples :

  • BNP Paribas a publié une charte pour les utilisateurs de nos plateformes de données (Data Platform User Charter) qui engage l’ensemble de nos data scientist à respecter les normes éthiques les plus élevées en matière de sécurité des données et d’IA
  •  La Banque a développé dans son offre de formation un eLearning ciblant l’ensemble des collaborateurs pour sensibiliser aux biais en IA. En complément, un module de formation technique spécifique et obligatoire est déployé dans l’ensemble de la communauté des data scientist afin de les doter des meilleures pratiques pour identifier et adresser les biais

Pensez-vous que féminiser les métiers de l’informatique permettrait d’atteindre l’objectif d’une IA moins biaisée ?

Oui, le Groupe en est convaincu et a lancé en 2020 un programme de féminisation des métiers informatique, qui fait partie de ses priorités stratégiques. 

Plusieurs leviers d’action ont été identifiés dans ce programme, notamment l’intensification du recrutement externe des femmes dans la tech ainsi que le renforcement du développement des compétences des femmes sur ces sujets. Le Groupe a pour objectif de recruter plus de 1 000 femmes dans ces domaines d’ici fin 2024

Par ailleurs, je peux citer Women and Girls In Tech  (#WOGITECH), un collectif réunissant femmes et filles de plusieurs générations, qu’elles soient professionnelles, étudiantes ou collégiennes, autour des opportunités offertes par le numérique et les technologies. 

Enfin, le réseau interne et mondial Women In Cyber donne à comprendre l’univers des femmes travaillant dans les domaines du Cyber, de la Technologie et de l’Innovation chez BNP Paribas afin d’acculturer sur ces métiers et d’y encourager la mobilité des collaboratrices.


Crédits photos : header ©NDABCREATIVITY //  ©Alliance // ©ReeldealHD images

A lire aussi

Toutes les actualités