L’intelligence artificielle « peut faire des miracles », et nuire aussi

L’intelligence artificielle « peut faire des miracles », et nuire aussi

La vice-présidente de la Commission européenne, Margrethe Vestager, met en garde contre certains usages de l’intelligence artificielle, notamment par les services de police. Les systèmes d’IA présentant des risques élevés doivent donc être régulés plus étroitement.

La reconnaissance faciale est depuis quelques semaines de nouveau sur le devant de la scène. C’est plus particulièrement son usage par la police qui suscite la polémique. Aux Etats-Unis, Amazon a même dû s’engager à un moratoire d’un an sur ces technologies.

L’usage de systèmes d’intelligence artificielle par les autorités pose de plus en plus question en raison de risques de discriminations. En Europe, ces dérives sont également prises en compte. La vice-présidente de la Commission européenne, Margrethe Vestager, pose ainsi des limites à l’utilisation de l’IA.

La police prédictive ? Attention danger

Certes, l’intelligence artificielle peut faire des miracles, « à la fois pour notre économie et notre société » déclarait la dirigeante européenne lors de l’European AI Forum. Cependant, elle peut aussi porter préjudice.

« Elle peut conduire à la discrimination, en amplifiant les préjugés et les biais qui sont déjà inhérents à notre société » souligne Margrethe Vestager. Et la vice-présidente de cibler en particulier les techniques de police prédictive.

Ces techniques pourraient viser notamment les immigrés et les personnes appartenant à certains groupes ethniques. Pour la représentante de la Commission, « cela n’est pas acceptable. » Un tel usage de l’IA n’est pas le seul cependant à présenter un risque.

Pred-Pol, le logiciel de police prédictive est abandonné

Identifier les systèmes d’IA à risque

Vestager cite ainsi également l’automobile au travers du véhicule connecté. Cette dernière juge donc indispensable que les applications à haut risque de l’IA soient « correctement réglementées ». Elle ajoute : « nous devons savoir qu’elles sont techniquement robustes et sûres. Qu’elles ont été formées sur la base de données fiables. Que, quelque part, il y a un humain dans la boucle. »

La vice-présidente de l’Europe reconnaît cependant qu’une telle classification des systèmes d’intelligence artificielle n’est pas simple. Les dérives possibles de la reconnaissance faciales à des fins de surveillances de masse sont une évidence, en termes de risques.

« Dans d’autres domaines, c’est plus difficile » commente Margrethe Vestager. Malgré ces risques, l’objectif pour l’Europe reste bien de s’imposer dans ce domaine technologique. « Nous voulons développer une IA européenne avec des règles claires et des solutions innovantes pour stimuler notre croissance économique et le bien-être de la société » conclut-elle.

A lire également sur MyData

Algorithmes et discriminations

Les algorithmes moteurs de progrès, et de discriminations

Dans un rapport conjoint, la Cnil et le Défenseur des droits souhaitent mobiliser face aux risques de discriminations induits par les algorithmes. Ils préconisent notamment un renforcement des obligations légales.

A propos de Christophe Auffray 430 Articles
De formation initiale en marketing Web et en économie, je me suis spécialisé par la suite dans la presse B2B consacrée à l'économie numérique et dispose dans ce secteur de 15 ans d'expérience. Spécialiste de la transformation numérique, de l'innovation et des nouveaux business models des entreprises, j'ai développé des compétences dans les domaines du marketing éditorial, de la stratégie éditoriale, de la production de contenus premium et la gestion de sites d'information et d'équipe dans l'univers des médias en ligne et du marketing des solutions innovantes.