spot_img
spot_img
spot_img
spot_img
AccueilSecteursInternet - WebComment Customs Bridge entraîne ses modèles d’IA chez OVHcloud

Comment Customs Bridge entraîne ses modèles d’IA chez OVHcloud

Créée en Octobre 2020, Customs Bridge est une «DeepTech», une start-up dont le cœur de la technologie s’appuie sur des algorithmes d’intelligence artificielle afin de créer un moteur de classification de produits automatique.

La start-up destine ce service aux importateurs européens car chaque produit importé dans l’Union Européenne doit être précisément catégorisé selon une nomenclature qui compte plus de 24 000 entrées. Toute la complexité pour les importateurs est de choisir la bonne catégorie à partir du descriptif fourni par le fabricant, un descriptif qui peut être très succinct voire incomplet.

Tout produit importé dans l’Union Européenne doit être déclaré selon un code en fonction duquel les droits de douane sont calculés. Ce code définit aussi la réglementation qui va s’appliquer au produit. Toute erreur d’affectation peut donner lieu à des sanctions, à un retrait du marché et à des redressements fiscaux.

« Nous avons pu bénéficier du programme «Start-Up» d’OVHcloud, ce qui nous a permis de commencer à utiliser leurs services Cloud dédiés à l’IA très rapidement. Le service OVHcloud AI Training nous a permis ainsi de réaliser l’apprentissage de nos modèles de Machine Learning qu’il nous était impossible de mener sur nos propres machines on-premise.» Dr. Hamza Saouli, directeur de l’innovation de Customs Bridge.

Cette classification peut s’avérer problématique car ce code doit être uniforme dans l’ensemble des pays de l’Union Européenne mais à l’international les catégories peuvent varier d’un pays à l’autre, selon que le fabricant exporte ses produits en Europe, aux Etats-Unis ou en Chine.

Des subtilités dans le descriptif d’un produit peuvent aussi le faire basculer d’une catégorie à une autre, un bracelet-montre n’étant pas classifié de la même façon qu’une chaîne de montre.

Le défi Customs Bridge

L’objectif de Customs Bridge est de créer un moteur de classification de produits le plus fiable possible afin d’affecter le bon code douanier à un produit dont le descriptif n’est absolument pas formalisé : il peut s’agir d’un descriptif relativement précis dans le cas des produits électroniques, par exemple, ou quelques mots-clés pour un produit alimentaire, avec des volumes de données très différents selon qu’il s’agit d’un produit fréquemment importé dans l’Union européenne ou pas.

« Pour réaliser l’apprentissage de nos modèles d’intelligence artificielle, nous avons commencé par utiliser des données accessibles en Open Data, notamment la base de données communautaire EBTI (European Binding Tariff Information) » raconte Hamza Saouli, directeur de l’innovation de CustomsBridge.

« Cette base de données compte 250 000 lignes mais elle ne couvre que 10% à 15% de la nomenclature complète. Nous avons pu lancer l’entraînement de plusieurs modèles d’apprentissage sur cette source de données avec des premiers résultats probants sur un code, un chapitre. Sur les produits électroniques importés de Chine, généralement bien décrits, cet apprentissage a obtenu de bons résultats mais sur des produits moins fréquemment importés nous n’avons pas eu de résultats probants faute de données disponibles en grande quantité et de bonne qualité. »

Les modèles ne disposent souvent pas assez de données sur les produits rarement importés sachant que les données européennes sont beaucoup moins accessibles que celles des douanes américaines, par exemple.

Maximiser l’utilisation des données

Dans les phases initiales du projet, le directeur de l’innovation de Customs Bridge a principalement utilisé les algorithmes IA les plus connus pour leur efficacité et leur rapidité telles que le SVM et les arbres de décision.

Mais avec l’augmentation de la taille du jeu de données d’entraînement, l’utilisation de ces derniers s’est avéré ne plus être une bonne solution, ce qui a poussé l’équipe IA de Customs Bridge à adopter des modèles plus avancés tels que les réseaux de neurones (via l’API de Deep Learning Keras) et les Transformers, des algorithmes qui sont aujourd’hui à l’état de l’art dans la classification sémantique.

L’expert s’est ensuite appuyé sur des articles scientifiques de chercheurs en IA afin d’accroître les performances de ses modèles en matière de classification. Dès lors, la start-up s’est rapidement heurtée à un problème de taille : la capacité de traitement disponible pour entraîner ses modèles d’IA.

Si les 3 PC équipés de GPU étaient suffisants pour entraîner les modèles les plus simples, cette infrastructure va rapidement arriver à ses limites et pousser l’équipe de Customs Bridge à opter pour une solution Cloud, idéale pour faire face à un besoin d’une forte puissance de calcul et de mémoire RAM de manière intermittente. C’est la raison qui a poussé Customs Bridge à s’intéresser aux offres IA & Machine Learning d’OVHcloud.

« Initialement, nous avions pensé pouvoir réaliser l’entraînement de nos modèles sur nos propres machines dotées de GPU. Cette approche est rapidement arrivée dans une impasse lorsque nous avons souhaité monter en puissance. Nous étions bloqués par le manque de RAM, par l’espace de stockage disponible, ce qui limitait fortement l’apprentissage de nos modèles. Le Cloud était pour nous la meilleure solution possible tant techniquement qu’économiquement. » Dr. Hamza Saouli, directeur de l’innovation de Customs Bridge

La solution Customs Bridge

Parmi l’ensemble des briques fonctionnelles proposées par OVHcloud dans son offre AI, Customs Bridge met en œuvre la solution OVHcloud dédiée à l’entraînement des modèles, AI Training. En parallèle, la start-up exploite des instances OVH afin de déployer ses modèles en production et supporter le pipeline d’alimentation en données.

« Nous avons mis en place un pipeline qui part de la demande d’un client, soumet la requête au modèle puis traite la réponse reçue de la part du modèle » explique Hamza Saouli. « Celle-ci doit être préparée avant d’être affichée pour le client. En entrée nous devons donc traiter des descriptions textuelles de produits à importer, sachant que ces derniers sont de petite taille (3 à 5 mots seulement) et ne décrivent pas assez le produit, et en sortie ces descriptions sont téléversées sur le Cloud afin d’être soumises au modèle déployé qui propose un ensemble de codes douaniers pour l’importateur. »

Une base de données plus complète

Dans un avenir proche, ce pipeline est appelé à devenir plus complexe. L’équipe est en train de travailler sur un « augmentateur de texte », un algorithme qui part d’un jeu de données existant et qui va l’enrichir afin d’optimiser l’apprentissage des modèles.

L’algorithme va ainsi faire passer la base de données initiale de 200 000 / 300 000 lignes pour la faire monter à 3 à 4 millions de lignes via des techniques de génération de texte automatique. Là encore le Cloud est irremplaçable pour une telle tâche car l’entraînement de modèles sur de tels volumes de données n’est tout simplement plus possible sur des PC classiques.

« Basculer l’apprentissage des modèles d’IA d’une approche On-Premise à OVHcloud AI Training nous a apporté une flexibilité et une puissance que nous ne pouvions pas avoir en interne. La solution est très simple à utiliser : Nous pouvons fixer à l’avance le nombre de GPU et la taille de la RAM dont nous allons avoir besoin à l’instant t pour mener un apprentissage. C’est très utile dès lors que l’on connaît à l’avance le nombre de ressources dont on va avoir besoin. » Dr. Hamza Saouli, directeur de l’innovation de CustomsBridge

OVH mise sur l’intelligence artificielle

Comme l’explique Hamza Saouli, le passage de calcul d’apprentissage en mode on-premise sur le Cloud OVHcloud ne lui a posé aucun problème d’adaptation. OVHcloud fournit des conteneurs prêts à l’emploi pour les principaux frameworks d’IA et il suffit de lancer le Job correspondant pour pouvoir les déployer sur un GPU dans le Cloud.

En outre, depuis le mois de juin 2021 il est maintenant possible de faire de même pour les conteneurs exécutés sur CPU. Cette possibilité de choix permet de bénéficier de ressources de calcul à un tarif encore plus bas pour des apprentissages qui ne nécessitent pas la puissance d’un GPU dédié. Cette évolution de l’offre « AI » d’OVHcloud est issue d’une demande de CustomsBridge.

2,5 To de données utilisées pour l’IA

Pour entrainer ses premiers modèles de Transformers, le directeur de l’innovation s’est appuyé sur environ 2,5 To de données. Pour les modèles de Machine Learning, les volumes de données sont plus faibles, de l’ordre de 30 à 40 Go de données d’entrainement.

« Avec les GPU NVidia V100 mis à disposition par OVHcloud, l’apprentissage d’un Transformers sur 250 000 lignes ne représente qu’une trentaine de minutes de calcul. C’est à la fois très rapide et le coût est véritablement modique puisqu’une heure de calcul est facturée environ 1,75 €. C’est la raison pour laquelle nous n’envisageons absolument pas d’acquérir de machines pour réaliser ces calculs en interne » ajoute l’expert.

En parallèle à ce travail mené sur les modèles d’IA, Hamza Saouli travaille aujourd’hui sur un chatbot qui interagira avec les clients pour obtenir les informations sur le produit recherché.

Celui-ci a déjà entraîné un modèle RASA, une plateforme Open Source dédiée aux chatbots sur des instances CPU d’OVHcloud. Les premiers résultats ont été jugés très encourageants et l’expert espère qu’OVHcloud mettra rapidement à disposition un conteneur RASA dans son infrastructure AI pour en simplifier encore la mise en œuvre.

Derniers articles

L'essentiel de l'actu

POSTER UN COMMENTAIRE

Veuillez écrire votre commentaire !
veuillez entrer votre nom ici