Sergej Khackimullin - Fotolia

L’expérience utilisateur, une clé du déploiement du Deep Learning en production

Lorsqu’il s’agit de déployer des modèles de Deep Learning en production, les experts s’accordent sur un point : il est fondamental de ne pas perdre de vue des fondamentaux pour s’assurer que les résultats souhaités soient bien là, auprès de la bonne cible.

Associer des modèles de Deep Learning aux voitures autonomes ou à la reconnaissance vocale a certes généré beaucoup de buzz. Toutefois, lorsqu’il s’agit de le déployer en production,  certaines notions de base et fondamentaux  sont largement nécessaires.

Lors d’une présentation effectuée lors du Deep Learning Summit à Boston, Nicolas Koumchatzky, en charge de l’ingénierie chez Twitter a posé les bases du débat. Selon lui, l’analytique traditionnelle et l’ensemble de ses contraintes, comme la simplicité du modèle ou l’A/B testing, sont des concepts qu’il convient aussi de prendre en compte lors du déploiement du Deep Learning.

Le Deep Learning au cœur de Twitter

Le Deep Learning est l’un des piliers de l’expérience Twitter. Depuis les débuts du réseau social, les utilisateurs ont pu visualiser les tweets dans leur timeline, dans un ordre chronologique. Mais il y a environ un an, Twitter a modifié cela pour une timeline comportant un ordre hiérarchique. De la même façon que Facebook gère son flux d’actualités (news Feed). Cette nouvelle approche évalue le contenu des  tweets et les range dans la timeline en fonction de ce que l’algorithme estime être le contenu le plus adapté à l’utilisateur.

Le Deep Learning est fortement impliqué dans cette opération, depuis le traitement naturel du langage à la reconnaissance d’images jusqu’à leur description. « C’est bien ce qui a attiré l’attention des media, car nous avions franchi un cap », estime le spécialiste.

Mais une fois les modèles en production, ajoute-t-il, il est plus que nécessaire qu’ils fonctionnent sans aucune difficulté. Les modèles doivent être peu nombreux pour réduire la latence – ce qui est un risque étant donné les volumes de contenu à traiter en temps presque réel. Cela signifie aussi qu’ils doivent être capables d’apporter un résultat en quelques millisecondes. Le test est également essentiel pour éviter de dégrader l’expérience utilisateur de Twitter, poursuit-il.

Tout est question d’expérience utilisateurs

Justement. Le déploiement du Deep Learning en production demande d’avoir le sens de l’expérience utilisateur, confirme à son tour David Murgatroyd, spécialiste du Machine Learning chez Spotify. « Il est vraiment impératif d’identifier la bonne intégration qui fera écho aux utilisateurs. Si vous ne disposez pas de cela, votre modèle restera sur l’étagère, et ne sera pas utilisé. »

Chez Spotify, cette implémentation du Deep Learning se retrouve au sein de la fonction Discover Weekly, un moteur de recommandation qui identifie de nouveaux morceaux, en fonction des anciennes sélections d’artistes de l’utilisateur. David Murgatroyd confirme que les algorithmes qui font la connexion entre les chansons et les artistes fonctionnent bien et ce depuis longtemps. Toutefois, ces recommandations n’ont pas  été utilisées autant que l’espéraient les équipes Spotify. Du coup, elles se sont mises à considérer l’interface utilisateur. Elles ont découvert que ces algorithmes ne faisaient que compiler les couvertures d’albums pour les exposer aux utilisateurs. De quoi en effet semer la confusion. Aujourd’hui, la fonction Discover Weekly crée une playlist pour chaque utilisateur. Cela ne nécessite qu’un seul clic pour jouer cette liste.

Des corrections intuitives

L’autre point clé à prendre en compte lorsqu’il s’agit de déployer des modèles de Deep Learning en production est la programmation, par contournements. Les modèles commencent souvent par proposer des recommandations quelque peu étranges. Prévoir de les corriger de façon intuitive peut être très utile, pense encore David Murgatroyd.

Toutefois, les interventions manuelles doivent rester rares, car sur le long terme,  modifier les outputs risque au final de perturber le modèle, avertit-il enfin.

Pour approfondir sur Outils décisionnels et analytiques

Close