REX 2024

Il y a 1 an je faisais un post sur ce que nous avions vu / fait en GenAI chez Coddity et certains clients et en avais sorti certains insights. 1 an après, je n’en changerais pas grand chose (auto congratulation), mais si je m’amusais l’an dernier à formuler des hypothèses, certaines se sont transformées en certitudes.

⚙️ Technique

Tous les projets de GenAI se ressemblent et ont besoin des mêmes composants. Il est primordial de développer et de maintenir un socle logiciel commun en évitant le “vendor lock” pour rapidement bénéficier des (nombreuses) nouveautés, les tester (et suivre le rythme).

Pour les plus tech, Langchain n’apporte rien, et nous nous en passons. 🤷‍♂️

👷‍♀️ Métier

La compréhension métier est primordiale, et le succès d’un projet GenAI dépend moins du code ou de la performance du modèle utilisé que de la curiosité et de l’intérêt de la personne qui va implémenter le cas d’usage.

Vous avez un projet soumis à la concurrence ? Ayez plus peur de l’expert métier qui comprend comment fonctionne un LLM ou un système agentic qu’une équipe d’excellents développeurs et / ou data scientist. Cependant, ce type de profil sera rare à trouver aussi bien en interne qu’en externe.

🛠️ Production

Le monitoring est essentiel pour améliorer les performances, cela passe par des heures de lectures des résultats produits et de modifications de prompts. D’où l’importance d’avoir une plateforme technique modulaire avec une bonne observabilité. Il ne faut pas sous estimer la charge que cela représente.

💵 Marché pour les ESN

Il y en a un mais ce ne sera pas la poule aux œufs d’or.

Côté grands groupes, je pense que tout sera fait en interne avec des petites équipes qui développeront et maintiendront le socle logiciel cité au-dessus, donc pas besoin de plateau entier de développeurs. D’autant que le sujet est trop politique pour être confié à des externes.

En revanche pour les ETI, le besoin est fort mais je pense que cela doit passer par des “SaaS” avec une facturation à la consommation. Mais dans les 2 cas, les interventions en régie seront rares, et une grosse part concernera des interventions plutôt AMOA technique ou PO sur la transformation d’un savoir métier pour l’automatiser.

🏭 Impact sur les organisations

Si vous pensez que déployer un Copilot suffira à transformer une organisation vous n’êtes pas prêt pour ce qui va suivre.

Oops, limite de caractère atteinte, la suite très bientôt !