L’éthique en IA : un manque flagrant de formation

L’éthique en IA : un manque flagrant de formation

L’éthique est une préoccupation forte dans le domaine de l’intelligence artificielle. Dans la pratique, elle reste encore souvent négligée. Et cette situation peut s’expliquer par la faible place accordée à l’éthique dans la formation des professionnels de l’IA.

L’éthique de l’IA, préoccupation sincère des entreprises ou opportunisme pour générer de la confiance et échapper à une régulation trop stricte ? Nombre d’organisations annoncent des engagements dans ce domaine.

C’est par exemple le cas chez CNP Assurances, qui a mis en place une gouvernance de l’IA et nommé un responsable de l’éthique de l’intelligence artificielle. Chez Malakoff Médéric Humanis, l’éthique est présentée comme un prérequis au déploiement à l’échelle.

18% des étudiants en data science formés à l’éthique

Ces approches ne sont cependant pas encore la norme. Et cette faible prise en compte de l’éthique peut notamment s’expliquer par une sensibilisation insuffisante des professionnels impliqués dans ces projets.

D’après une étude menée auprès de professionnels de la data science et d’étudiants, ces questions sont peu abordées en formation initiale. Seuls 15% des formateurs et professeurs interrogés déclarent enseigner l’éthique de l’IA.

Parmi les étudiants, seulement 18% indiquent suivre des cours sur ce sujet. Élément rassurant, la faible place accordée à l’éthique ne résulte pas d’un désintérêt. Au contraire, ils sont près de 50% des sondés à considérer l’impact social des biais ou de la vie privée comme « le plus grand problème à résoudre dans le domaine de l’IA/ML aujourd’hui. »

Problème : cette préoccupation ne se reflète donc pas à ce jour dans les programmes de formation des futurs professionnels du domaine, data scientists et machine learning engineer en tête. L’accent est d’abord mis sur les connaissances et compétences purement techniques.

La prise en compte de l’éthique dans les projets d’IA nécessite une sensibilisation et des compétences, comme une gouvernance adaptée. Chez BNP Personal Finance, une fonction de model reviewer intervient ainsi sur le contrôle du modèle.

L’éthique impulsée par la direction de l’entreprise

Une de ses missions consiste ainsi à détecter les biais éventuels. L’explicabilité des algorithmes est quant à elle assurée par le model owner. Les techniques employées, comme les modèles mathématiques, complexifient cependant explicabilité et interprétabilité.

Si la complexité dessert l’explicabilité, elle « sert souvent la performance » souligne Emmanuel-Lin Toulemonde, data scientist chez Octo Technology. « Afin de maximiser l’utilité de votre système de data science, il va falloir trouver un juste équilibre entre performance et interprétabilité » préconise-t-il.

L’assureur Malakoff a lui pris la décision, sur les cas d’usage sensibles, de n’utiliser que des algorithmes explicables, notamment pour les métiers. Dès lors, certaines techniques, dont de deep learning, sont de fait exclues.

Une prise en compte opérationnelle de l’éthique dans les projets d’IA réclame donc une volonté et des efforts. Et elle ne peut reposer sur les seuls experts que sont notamment les data scientists. Elle découle d’une décision d’entreprise et de ses dirigeants.

A lire également sur MyData

CNP Assurances s’organise pour un usage éthique de l’intelligence artificielle

CNP Assurances s’organise pour un usage éthique de l’intelligence artificielle

CNP Assurances met en place une gouvernance de l’intelligence artificielle. Objectif : garantir la prise en compte de l’humain et de l’éthique dans ses projets d’IA. L’entreprise nomme en outre un responsable de l’éthique de l’intelligence artificielle.

A propos de Christophe Auffray 396 Articles
De formation initiale en marketing Web et en économie, je me suis spécialisé par la suite dans la presse B2B consacrée à l'économie numérique et dispose dans ce secteur de 15 ans d'expérience. Spécialiste de la transformation numérique, de l'innovation et des nouveaux business models des entreprises, j'ai développé des compétences dans les domaines du marketing éditorial, de la stratégie éditoriale, de la production de contenus premium et la gestion de sites d'information et d'équipe dans l'univers des médias en ligne et du marketing des solutions innovantes.