Ledger : Leurs 6 projets GenAI en production
#83 - Le zoom, le podcast avec Michael et ses ressources préférées
Hello,
Bienvenue dans l’édition #83 de la newsletter DataGen ! 👋
L'agenda de la semaine :
🔍 Les 6 projets GenAI en production de Ledger
🎙 Le podcast avec Michael, Head of Data & IA chez Ledger
📚 Les ressources recommandées par Michael
🚀 Vous êtes déjà 100+ à être intéressés par le bootcamp Analytics Engineering qu’on lance en collaboration avec DataBird
C’est parti !
👋 Tu souhaites faire évoluer ta carrière ?
Laisse-moi te raconter l’histoire de Stéphanie.
Initialement Responsable d’un Pôle Etudes de Marché, elle est aujourd'hui Data Analyst. Elle est montée en compétences en analyse de données sans quitter son job grâce à la formation en temps partiel de DataBird.
Si tu souhaites en savoir plus, n'hésite pas à écouter l'épisode #103, elle nous raconte comment elle s’y est prise.
Pour rappel, DataBird est un bootcamp spécialisé sur la data qui a déjà formé plus de 4 000 personnes.
Découvre leurs formations : ici
Merci à DataBird de sponsoriser DataGen. ❤️
🔍 Les 6 projets GenAI en production de Ledger
Ce zoom est tiré de mon échange avec Michael qui est Head of Data & IA chez Ledger (🦄), le leader mondial de la sécurisation des crypto-monnaies. Lorsque ChatGPT fait les news, Michael identifie rapidement qu’il y a un fort potentiel pour Ledger.
“Nos projets GenAI se séparent en projets tactiques qui adressent un département ou un besoin de quelques personnes et des projets plus stratégiques qui vont adresser une bonne partie de l'entreprise ou de nos clients.”
1) YouTube Analyser
Contexte : Ledger a des partenariats d’affiliation avec de nombreux YouTubers spécialisés sur la finance et les cryptos. Le contrat est simple : les influenceurs sont rémunérés par rapport au trafic qu’ils ramènent sur le site de Ledger.
Enjeu : Chaque année, des milliers d’heures de vidéos sont publiées par ces partenaires. Une équipe chez Ledger est chargée de gérer la relation avec les affiliés et d’analyser ce contenu.
Solution : Un outil qui récupère les transcripts de toutes les vidéos, identifie les mentions à Ledger, fait du sentiment analysis vis-à-vis de Ledger pour s’assurer que les partenaires ne dévalorisent pas l’entreprise et qui restitue ces informations via des visualisations avancées sur Tableau.
“C’est devenu l'outil de travail que les affiliation managers utilisent tous les jours. On utilise principalement ChatGPT, Snowflake et Tableau.”
2) Reddit Sentiment Analysis
Contexte : Reddit est un réseau social important dans la crypto. C'est un réseau qui est observé de près par les équipes marketing de Ledger et par l’entreprise en général.
Enjeu : Les volumes de posts sur Reddit sont énormes et donc ce n’est pas possible d’analyser manuellement les posts qui mentionnent Ledger.
Solution : Un outil qui identifie les mentions de Ledger, analyse le sentiment vis-à-vis de Ledger derrière ces mentions et les restitue via des visualisations sur Tableau (ex : mention positive, négative, reliée à un lancement produit…).
“Ce projet a représenté 2 jours de travail pour créer le script qui permet d’analyser les posts et 2 ou 3 jours sur le dashboarding. Avec les GenAI, ces projets ont un time-to-market extrêmement court. Un projet de sentiment analysis avec les technos traditionnelles de NLP aurait été beaucoup plus long.”
3) Catalog Position Tracker
Contexte : Ledger vend ses produits hardware via des retailers (Best Buy aux US ou Boulanger en France). Les équipes sales B2B ont besoin de monitorer la position des produits Ledger sur certains mots clés du moteur de recherche de ces retailers (ex : à quelle position apparaît le produit Ledger lorsqu’on tape “Bitcoin” sur le moteur de recherche).
Enjeu : Historiquement, les équipes sales B2B allaient vérifier manuellement sur chaque retailer pour chaque mot clé ou étaient positionnés les produits Ledger (“Bitcoin”, Crypto”, “Portefeuille physique”...”).
Solution : Un outil qui scrappe les sites des retailers, envoie les body HTML à GPT-4 chaque semaine, sort le top 10 pour chaque mot clé et restitue les résultats sur Tableau avec un système d’alerting (ex : si Ledger perd un rang sur un mot clé chez un retailer).
“On aurait pu le faire de façon historique avec du scraping de pages web. Le problème, c'est que tu dois faire un script custom pour chaque retailer et que si un site change, ton script casse. C’est beaucoup moins scalable. Ici, ChatGPT absorbe cette complexité.”
4) Customer Chatbot
Contexte : Leger vend ses produits en ligne sur son site e-commerce. Ils reçoivent des questions de leurs clients concernant leurs achats, la livraison, le fonctionnement des produits…
Enjeu : L’objectif est d’automatiser une partie des réponses lorsque c’est possible afin que les équipes au support puissent passer plus de temps sur les cas particuliers ou complexes.
Solution : Un Chatbot qui s’appuie sur GPT-4 et qui répond directement aux clients en s’inspirant des documentations déjà disponibles sur le Help Center.
“Aujourd’hui, ça fait plus d’un an qu'on utilise GPT-4 pour répondre aux demandes de nos clients. Ils peuvent bien sûr parler à un agent s’ils le souhaitent mais il y a un passage systématique par ce Chatbot. Il parvient à traiter 50% des demandes.”
5) GitHub Copilot
Contexte : C’est un coding assistant, a.k.a. une extension de l’environnement de développement qui s'installe en quelques clics et qui permet de mettre l’IA au cœur de du workflow de développement. Il y a d’autres solutions qui proposent la même chose telles qu’Amazon CodeWhisperer.
Enjeu : L’objectif est d’augmenter la productivité des développeurs. Par exemple, si le développeur commence à écrire du code et à définir une fonction, GitHub Copilot va écrire automatiquement le reste de la fonction. Si le développeur ne comprend pas un bout de code parce qu’il reprend le projet d’un collègue, il va le sélectionner et GitHub Copilot va le lui expliquer.
Résultat : Ledger a réalisé un test sur 30 licences puis a réalisé une étude en interne. Les développeurs estiment le gain de productivité de l’ordre de 20% lorsqu’ils codent. Aujourd’hui, ils l’ont déployé pour tous les développeurs.
“Le calcul est assez simple. Un développeur coûte 8 000 € avec les charges par mois en moyenne. Une licence coûte 20€ par mois. Si tu as un gain de productivité de 20%, tu es sur un ROI en milliers de pourcents. Et en plus, ça s'installe en 3 minutes.”
6) Ledger Assistant
Contexte : Ledger souhaitait donner accès à GPT-4 à tous les salariés de façon privée. Ils ont sélectionné Azure Open AI et mis en place des pipelines de RAG afin d’augmenter la pertinence des résultats sur différents use cases.
Exemples de use cases :
- Contract Analyser : permet au service juridique d’uploader un contrat et d’obtenir en résultat un rapport avec les réponses à 20 questions qui ont été identifiées au préalable.
- Ask Ledger Bot : permet aux salariés de poser les questions qu’ils posent souvent aux fonctions support (RH, Finance) lorsque ces informations sont disponibles sur l’intranet (ex : sur la politique de voyages professionnels, sur la création d’un purchase order).
“On passe beaucoup de temps à parler au métier pour comprendre comment on peut créer des modules qui peuvent avoir de la valeur pour eux. Typiquement, pour les fonctions support, ils nous ont dit : on reçoit plein de questions alors qu'on y a déjà répondu 100 fois dans de la documentation.”
🎙 Le podcast avec Michael, Head of Data & IA chez Ledger
On aborde également :
La genèse des projets GenAI chez Ledger
Leur organisation pour délivrer ces projets
Leurs plus gros challenges (évangéliser, buy vs build)
Les prochaines étapes en termes de GenAI
Liens vers l’épisode : Apple Podcasts | YouTube | Spotify | Deezer
“Un des challenges principaux, c'est l'acculturation. On a beau être une boite tech, ça va tellement vite depuis l'arrivée de ChatGPT que ce n’est pas facile de développer ce réflexe LLM chez tout le monde.”
📚 Les ressources recommandées par Michael
La plateforme d’Andrew Ng DeepLearning.AI
“Andrew Ng est le fondateur de Coursera et professeur de Machine Learning à Stanford. On retrouve sur la plateformes des cours avec des managers de Pinecone, OpenAI, Longchain, etc. Le contenu est très, très quali.”
Le comparateur de LLMs Chatbot Arena
“Vous vous demandez quel est le meilleur LLM pour votre projet ? Chatbot Arena permet d’écrire un prompt pour lequel vous connaissez la réponse et vous sélectionnez parmi les différents LLMs ceux qui ont la bonne réponse. Ce qui permet in fine d’avoir un classement des LLMs.”
🚀 Vous êtes déjà 100+ à être intéressés par le bootcamp Analytics Engineering qu’on lance en collaboration avec DataBird
On a enregistré un épisode pour expliquer plus en détail la tendance de l’Analytics Engineering et présenter le programme.
Au menu :
- Pourquoi le besoin en Analytics Engineering a explosé ?
- Qu’est-ce qu’un Analytics Engineer ?
- En quoi consiste le bootcamp ?
- Quels profils devraient se former à l’Analytics Engineering ?
- Quelques ressources pertinentes pour en apprendre plus sur le sujet
Il n’est pas encore monté, je le partagerai ici lorsqu’il sera prêt.
En attendant, n'hésitez pas à liker et commenter ce post LinkedIn pour nous soutenir ou à aller découvrir le programme sur le site.