Vers la fin de l’intelligence artificielle boîte noire ?

Vers la fin de l’intelligence artificielle boîte noire ?

Le BCG livre en open source une librairie visant à rendre explicable l’intelligence artificielle à des humains. La Maif développe son propre projet dans ce domaine, Shapash. Son ambition est de contribuer à une utilisation éthique de la data.

Afin de développer la confiance à l’égard de l’intelligence artificielle se développent des approches de type ethical by design. La démarche repose en particulier sur l’interprétabilité du fonctionnement et l’explicabilité des décisions afin d’éviter l’effet boîte noire.

Ouvrir la boîte noire, c’est l’ambition du cabinet Boston Consulting Group (BCG). Celui-ci met désormais à disposition sa librairie open source Facet. Son objectif est de rendre explicables les résultats de modèles complexes de machine learning.

Pour une IA « plus transparente et plus responsable »

FACET se destine aux data scientists et experts métier. L’outil doit leur permettre de comprendre comment un modèle aboutit à des prédictions. Pour cela, il exploite un algorithme d’inspection de modèle visant à expliquer les relations entre les variables du modèle.

L’algorithme applique une approche de type simulation pour déterminer comment des changements dans ces variables affectent les résultats prévus. « Les data scientists sont souvent sous pression pour expliquer le comportement de leurs modèles », souligne Sylvain Duranton, directeur au sein du BCG.

En contribuant à l’explicabilité des modèles, FACET pourrait ainsi favoriser le « déploiement d’une IA plus transparente et plus responsable », estime l’expert. L’éthique de l’IA est également une préoccupation au sein de l’assureur français Maif.

Déjà producteur d’open source, avec Mélusine, mais aussi contributeur, l’assurance livre une nouvelle brique logicielle, Shapash. Son ambition est « de rendre le recours aux algorithmes plus transparent et de contribuer ainsi à une utilisation éthique de la data », détaille Yann Golhen, Lead Data Scientist à la Maif.

Shapash, la solution de la Maif pour expliquer un modèle à tous

Les contributions dans le libre en matière d’explicabilité de l’IA ne sont pas nouvelles. Mais pour l’entreprise, elles se destinent essentiellement à des spécialistes de la donnée. Avec Shapash, la Maif souhaite proposer une solution « qui s’adresse à tous ».

Shapash, la librairie Python de la Maif pour expliquer le fonctionnement des modèles d'IA
Shapash, la librairie Python de la Maif pour expliquer le fonctionnement des modèles d’IA

Déjà exploité en interne, l’outil permet ainsi de faciliter le dialogue entre data scientists et non-experts de la mutuelle. Mais il permet aussi de simplifier et accélérer la compréhension du fonctionnement des modèles pour les data scientists.

Concrètement, Shapash se présente sous la forme d’une librairie Python. Elle intervient en complément ou surcouche d’autres librairies d’explicabilité, comme Shap ou Lime. Et pour rendre un modèle compréhensible, elle va s’appuyer sur « un wording et des visualisations simples ».

L’objectif est de permettre une compréhension par un large public. Yann Golhen insiste en particulier sur l’interface visant à faciliter l’exploration des différentes fonctions d’un modèle. « Cette interface est particulièrement utile pour animer des ateliers métiers et répondre en séance aux questions sur le fonctionnement du modèle de ML », note le data scientist.

A lire également sur MyData

Data du jour : le télétravail ouvert à 100% des salariés de la Maif

La Maif, assureur de référence dans le NLP, veut fédérer autour de Melusine

C’est l’échec d’un projet de classification des emails qui a conduit la Maif à développer son propre outil de traitement du langage naturel pour ses cas d’usage du NLP dans l’assurance. Melusine est aujourd’hui accessible à tous. Et Maif compte sur l’open source pour fédérer et l’enrichir.

A propos de Christophe Auffray 430 Articles
De formation initiale en marketing Web et en économie, je me suis spécialisé par la suite dans la presse B2B consacrée à l'économie numérique et dispose dans ce secteur de 15 ans d'expérience. Spécialiste de la transformation numérique, de l'innovation et des nouveaux business models des entreprises, j'ai développé des compétences dans les domaines du marketing éditorial, de la stratégie éditoriale, de la production de contenus premium et la gestion de sites d'information et d'équipe dans l'univers des médias en ligne et du marketing des solutions innovantes.