Mettre en place une stratégie IA Générative avec Doctolib
#70 - Le zoom, le podcast avec Nacim et sa ressource préférée
Hello,
Bienvenue dans l’édition #70 de la newsletter DataGen ! 👋
L'agenda de la semaine :
🔍 Zoom sur la stratégie IA Générative de Doctolib
🎙 Le podcast avec Nacim, Sr Director Data & AI chez Doctolib
📚 La ressource recommandée par Nacim
C’est parti !
📢 Cette édition est rendue possible par Eulidia, le cabinet de conseil spécialisé sur la data et l’IA
J’ai rencontré Benjamin, leur Chief Data Science Officer, il est également Docteur en IA et expert IA et IA Génératives.
Je lui ai demandé de nous faire une masterclass IA Génératives sur le podcast.
C’est l’épisode 117, je vous le recommande.
Si vous souhaitez vous faire accompagner par les experts d’Eulidia, contactez-les et dites-leur que vous venez de ma part, ils s’occuperont bien de vous !
-Benjamin : bcohen@eulidia.com
-Elisa : echarbonnier@eulidia.com
🔍 Zoom sur la stratégie IA Générative de Doctolib
Ce zoom est tiré de mon échange avec Nacim, Sr Director Data & AI chez Doctolib, la licorne qui propose une plateforme de prise de rendez-vous avec des médecins mais aussi des logiciels qui facilitent la vie des praticiens.
La genèse et les 1ers projets
Doctolib lance un working group pour définir quels pourraient être les usages et comment utiliser les LLMs dans leur stack.
2 projets principaux ressortent :
1) DoctoGPT (aka un ChatGPT interne sécurisé pour les collaborateurs Doctolib)
“La GenAI est une technologie tellement nouvelle qu’il faut la mettre dans les mains des collaborateurs pour qu’ils se familiarisent avec elle, qu’ils comprennent les usages, etc.”
2) Medical Assistant (aka des cas d’usage “core product” qui facilitent la vie des praticiens)
“Par exemple, à partir de l'échange entre le praticien et le patient, on va générer un transcript de ce qui s'est passé et des notes de consultation qui permettent au praticien de documenter ce qui s'est passé tout en gagnant du temps.”
L’approche “startup”
L’élément qui m’a le plus interpellé c’est la rapidité et l’agilité avec laquelle Doctolib a réagi pour explorer et adopter cette nouvelle technologie.
Par exemple, ils ont rapidement dédié des ressources sur le sujet.
“Aujourd’hui, il y a environ 15 personnes qui travaillent à temps plein sur des sujets GenAI et de nombreux autres collaborateurs contribuent à temps partiel côté Design, Product…”
Et le leadership de Doctolib est très impliqué.
“Deux des fondateurs travaillent directement sur ces projets et le CEO suit l’avancement de manière très régulière.”
L’impact sur la Tech
Un des enjeux technique est de pouvoir réserver des GPU.
“Tout ce qu'on fait avec des LLM demande énormément de ressources GPU. C'est quelque chose qu'on n'avait pas forcément l'habitude de manipuler chez Doctolib.”
Il faut par exemple monter en compétence sur des nouveaux outils.
“Par exemple, sur le serveur d'inférence Triton qu’on doit utiliser pour optimiser notre usage des GPU.”
Les 2 plus gros challenges
1) Le sujet n’est vraiment pas “sec”
“Les choses bougent très vite et donc la vérité du jour peut être complètement invalidée deux semaines plus tard.”
2) Le sujet est extrêmement complexe
“L'intelligence artificielle en général est déjà un sujet compliqué. La GenAI a rajouté à la fois de la complexité et de la confusion. Ça nécessite beaucoup de formation auprès des collaborateurs.”
🎙 Le podcast avec Nacim, Sr Director Data & AI chez Doctolib
On aborde également :
Les 2 projets GenAI dans le détail (DoctoGPT et le Medical Assistant)
L’organisation de Doctolib pour réaliser ces projets
Leurs prochaines étapes sur le sujet GenAI
Liens vers l’épisode : Apple Podcasts | YouTube | Spotify | Deezer
📚 La ressource recommandée par Nacim
Le podcast Acquired et notamment les épisodes sur Nvidia (qui produit les GPU)
“C'est incroyable de voir que cette révolution de l’IA est également permise par des révolutions scientifiques sur du hardware qui permet d’avoir la capacité de calcul pour faire ce genre de choses (GPU).”