Gorgias : Créer le Context Layer de son agent AI Analytics
#158 - Le zoom, le podcast avec Yochan, ses ressources préférées, comment déployer un Agentic Analytics Platform ?
Hello,
Bienvenue dans l’édition #158 de la newsletter DataGen ! 👋
L’agenda de la semaine :
🔍 Zoom sur la construction d’un Context Layer pour son agent AI Analytics
🎙 Le podcast avec Yochan, Context Engineer chez Gorgias
📚 Les ressources recommandées par Yochan
🎙 Comment déployer une Agentic Analytics Platform ?
C’est parti !
🔍 Zoom sur la construction d’un Context Layer pour son agent AI Analytics - 4 min
Ce zoom est tiré de l’échange qu’a eu Caroline avec Yochan, Staff Context Engineer chez Gorgias, la scale-up valorisée à plus de 700 millions d’euros qui propose une solution d’IA conversationnelle pour les plateformes e-commerce. Leur agent analytics interne répond aujourd’hui à environ 1 000 questions data par jour et 83% des collaborateurs l’utilisent au quotidien.
Pourquoi construire un Context Layer ?
L’agent analytics permet à n'importe qui dans l'entreprise de poser ses questions data en langage naturel et d'obtenir des réponses fiables, sans passer par un analyste. Chez Gorgias, l’agent analytics a été construit “in-house” sur la base des frameworks LangChain et LangGraph.
L’enjeu principal lorsqu’on met en place un agent analytics est d’assurer la fiabilité des réponses. C’est pourquoi le marché préconise depuis quelques temps de mettre en place un Context Layer : un ensemble de fichiers qui donnent à l’agent le contexte business et les métriques dont il a besoin pour répondre correctement aux questions des utilisateurs.
“On a créé notre Context Layer sur la base de fichiers Markdown qui décrivent le contexte business et les métriques. Ils font la jonction entre le LLM et ce que les utilisateurs demandent.”
Chantier #1 : Structurer la connaissance
Le premier grand chantier a été de construire la hiérarchie d’informations de chaque département. L’équipe est allée voir la Finance, le Marketing, les Sales… pour documenter leurs métriques et leur contexte business.
De ces échanges sont nés deux types de fichiers Markdown :
Les topics : toute la connaissance business (définitions, métriques, règles métier) hiérarchisée par département
Les skills : des workflows step-by-step pour les questions récurrentes et complexes. Par exemple, le “customer single review” permet de générer un rapport complet sur tout ce qu’on sait d’un client à partir de tous les topics pertinents.
“L’objectif, c'est de donner à l'agent juste les informations nécessaires pour la question qui lui est posée. Ce ne serait pas efficace de mettre l’entièreté du contexte de toute la boîte pour chaque question en termes de latence et de coûts.”
Chantier #2 : Mettre à jour et améliorer continuellement le contexte
Le Context Layer doit être mis à jour constamment. Si les métriques évoluent et que le contexte n’est pas mis à jour, les réponses de l’agent deviennent fausses.
Yochan et son équipe ont mis en place 2 éléments :
Solution proactive : un background agent tourne tous les jours pour analyser les conversations, détecter les frustrations et générer automatiquement des modifications sur le Context Layer (ex : PRs correctives).
Process réactif : lorsqu’un bug est signalé sur Slack, Yochan et son équipe le corrigent en moins de 20 minutes.
"Être proactif et extrêmement rapide pour corriger des bugs, c’est un bon moyen de gagner la confiance des utilisateurs.”
Chantier #3 : Ouvrir l’édition du Context Layer à toute l’entreprise
Au départ, seule l’équipe Data pouvait modifier le Context Layer. Mais pour que l’agent reste fiable dans la durée, il fallait que les équipes métier puissent éditer directement le Context Layer.
L’enjeu ici est d’adapter le mode d’édition du contexte aux différents profils de l’entreprise selon leur niveau technique.
Gorgias a mis en place trois modes d’édition :
Pour les plus techniques : création de PRs directement sur le repo Github, des Claude Code skills ont été créés pour guider les contributeurs (ex : respecter la structure, éviter des doublons…).
Pour les profils intermédiaires : création de PRs en langage naturel via une interface, un MCP a été connecté à ChatGPT et Claude Desktop.
Pour tout le monde : une interface permet de visualiser l’ensemble du Context Layer, identifier ce qui manque et enregistrer des modifications.
“L’objectif, c’est que n’importe qui dans la boîte puisse contribuer au Context Layer, peu importe son niveau technique. Parce que ce sont eux qui ont la connaissance métier.”
🎙 Le podcast avec Yochan, Staff Context Engineer chez Gorgias
On aborde :
La naissance du projet agent analytics
Les composants d’un agent (tools, context layer…)
Le chantier #1 : structurer la connaissance (cf. zoom)
Le chantier #2 : améliorer continuellement le contexte (cf. zoom)
Le chantier #3 : ouvrir l’édition à toute l’entreprise (cf. zoom)
Pourquoi ils n’ont pas mis en place de semantic layer ?
Pourquoi ils ne passent pas par un outil propriétaire comme Omni ou Hex ?
L’organisation de l’équipe : 2 DE, 3 Context Engineers, 2 AI Applied Engineers
Leur plus gros challenge : la gouvernance
Son meilleur conseil : bien comprendre les technologies qu’on utilise
“On retrouve les mêmes enjeux de gouvernance mais ils ont été multipliés par 10.”
Liens vers l’épisode : Apple Podcasts | YouTube | Spotify
📚 Les ressources recommandées par Yochan
La documentation d'Anthropic
“Leur documentation est vraiment super. D’ailleurs, ce sont eux qui ont créé les concepts de tools, de skills, de MCP…”
L’outil et la documentation nao labs
“Ils sont en train de faire une version open source et donc gratuite de cette couche de contexte. Je trouve qu’ils vont dans la bonne direction.”
🎙 Comment déployer une Agentic Analytics Platform ?
François Lopitaux est Senior VP Product Management chez ThoughtSpot, la solution de business intelligence spécialisée sur l'analyse de données en langage naturel grâce à l'IA et plus globalement sur l'Agentic Analytics.
ThoughtSpot a été créé en 2012 et a été valorisé plus de 4 milliards de dollars lors de leur dernière levée de fonds en 2023. Ils sont utilisés par de très belles boîtes comme DoorDash, Lyft, Sephora aux US et Canal+ en France.
On aborde :
La genèse de ThoughtSpot et leur Agentic Analytics Platform
Pourquoi les utilisateurs aiment la solution : solution moderne, mix BI & IA, embedded analytics
Les clés pour déployer une solution Agentic Analytics (précision, context layer…)
L’évolution du rôle de Data Analyst vers un enabler de l’Agentic Analytics Platform
“Maintenant, les Data Analysts peuvent créer une flotte d’agents pour répondre à toutes les problématiques de l’entreprise. Je pense que c’est le moment le plus excitant de leur carrière.”
Liens vers l’épisode : Apple Podcasts | YouTube | Spotify
Retrouve une synthèse de notre échange : ici