Avec l’IA, Facebook tente de prédire le comportement des utilisateurs

Facebook déploie des bots IA pour détecter les mauvais comportements

Facebook développe WW, un simulateur exploitant différentes méthodes, dont le machine learning. Son but : entraîner des robots ou bots hyper réalistes. En simulant le comportement de vrais utilisateurs, Facebook s’efforce d’améliorer ses services et protections.

Facebook compte plus de deux milliards d’utilisateurs dans le monde. Un petit changement sur la plateforme peut donc avoir d’importantes répercussions. Mais comme le souligne Mark Harman, chercheur pour la firme, la complexité des interactions rend complexe la prédiction des comportements.

Pour progresser dans le domaine du test logiciel, Facebook dispose d’environnements de simulation. Ses ingénieurs ont ainsi conçu WES ou Web-Enabled Simulation. « WES est une nouvelle méthode pour construire les premières simulations à grande échelle et très réalistes de réseaux sociaux complexes » décrit Harman.

Une simulation de bots dans un Facebook réel

Le fonctionnement de WES repose principalement sur l’utilisation de bots, des robots censés imiter le comportement de véritables utilisateurs. Pour y parvenir, ces bots sont entraînés grâce notamment à du machine learning.

Ce n’est cependant pas la seule méthode mise en œuvre pour l’apprentissage des bots, dont le nombre peut atteindre plusieurs millions, précise Facebook. Grâce à WES, le réseau social a mis au point WW, une version raccourcie du Web ou WWW.

WW est un environnement Facebook simulé utilisant la base de code de production réelle de la plateforme. Cet outil répond à plusieurs cas d’usage, comme la détection des violations de sa politique d’utilisation.

Facebook a, par exemple, la possibilité de déployer des bots IA « réalistes » dont le comportement consistera à tenter d’acheter des produits interdits sur le service (armes, drogue, etc.).

« Comme le bot agit dans la version de production réelle de Facebook, il peut effectuer des recherches, visiter des pages, envoyer des messages et prendre d’autres mesures comme le ferait une personne réelle » explique Mark Harman.

Des tests réalistes pour résoudre des problèmes bien réels

Ces actions ne vont pas néanmoins jusqu’à des interactions avec les utilisateurs humains du réseau social. Facebook précise en outre que le comportement des bots n’a pas d’impact sur l’expérience des utilisateurs.

Le but de ces robots, c’est en effet la simulation. Au travers de simulations, les développeurs de la plateforme testeront ainsi la capacité du bot à contourner ses mesures de protection. « En faisant cela à l’échelle de WW, nous pouvons identifier des modèles statistiques dans les résultats et tester des moyens de résoudre les problèmes » souligne le chercheur de l’entreprise.

Les enjeux de tels simulateurs vont cependant au-delà de la détection des mauvais comportements. Il s’agit également pour Facebook de prédire les fonctionnalités les plus susceptibles de susciter des interactions, c’est-à-dire de l’usage. L’intérêt de la simulation est donc ici commercial.

Avec WES, Facebook estime pouvoir « automatiquement explorer des scénarios complexes. » Ce projet demeure toutefois encore au stade de la recherche. Ses bénéfices réels doivent encore être mesurés.

A lire également sur MyData

Blender, chatbot de nouvelle génération de Facebook

Blender, le chatbot Facebook à l’empathie artificielle

Les chercheurs en intelligence artificielle de Facebook ont développé un chatbot capable d’afficher des réactions plus humaines. Pour y parvenir, la firme a combiné des jeux de données répondant à différentes caractéristiques.

A propos de Christophe Auffray 433 Articles
De formation initiale en marketing Web et en économie, je me suis spécialisé par la suite dans la presse B2B consacrée à l'économie numérique et dispose dans ce secteur de 15 ans d'expérience. Spécialiste de la transformation numérique, de l'innovation et des nouveaux business models des entreprises, j'ai développé des compétences dans les domaines du marketing éditorial, de la stratégie éditoriale, de la production de contenus premium et la gestion de sites d'information et d'équipe dans l'univers des médias en ligne et du marketing des solutions innovantes.