← Retour Découvrir la catégorie MLOps & industrialisation IA

Formation vLLM & Text Generation Inference

Fiche créée le 9 octobre 2026Mise à jour le 9 octobre 2026

3 300 € HT

3 journées
présentiel
10 personnes max.

Demander un devis Voir le programme

Réf. : HSI222

10 personnes max.

3 300 € HT

Tarif intra-entreprise : à partir de 5 990 € HT pour tout le groupe

Présentiel et passage de certification sur devis

3 journées

présentiel

Ne laissez pas ce retard s'accumuler

Pourquoi cette formation est essentielle

Les équipes qui ne maîtrisent pas vLLM et Text Generation Inference subissent des latences supérieures à 800 ms pour des modèles de 70B.
D'après les mesures internes sur 40 déploiements, cela double les coûts GPU.
Les retards de mise en production atteignent six semaines en moyenne.
Les administrateurs perdent en crédibilité face aux directions techniques qui exigent des SLA stricts.

Ils nous font confiance — écoles, entreprises et groupes industriels

42 333 formations · 25 pays

On propose des formations avec un ingénieur dédié

Entreprises : Aptar, ArcelorMittal, Equans, Biocoop, Solocal, EDF, Photowatt, Ubisoft, Microsoft, Chronopost, RATP, Vanatome et Atos. Écoles partenaires : CESI, École IT, EFREI, EPSI, INGETIS, INSEEC, La Plateforme, My Digital School et Ynov.

Objectifs de la formation vLLM & Text Generation Inference

Administrer des instances vLLM & Text Generation Inference pour servir des modèles LLM en production.
Maîtriser les paramètres de quantification et de batching pour optimiser le débit d'inférence.
Déployer des conteneurs TGI sur des clusters Kubernetes avec équilibrage de charge.
Optimiser la latence et le coût GPU grâce aux techniques de continuous batching.
Piloter le scaling horizontal en fonction des métriques de saturation GPU.
Concevoir des pipelines de rollback pour les mises à jour de modèles sans interruption.

Programme

Programme vLLM & Text Generation Inference : 3 modules sur 3 journées

Module 1 : Installation et configuration vLLM & Text Generation Inference (vLLM, TGI, Docker)

Les participants déploient vLLM et Text Generation Inference sur des GPU A100 et H100. Ils comparent les modes de lancement, ajustent les variables d'environnement pour la mémoire et testent les endpoints OpenAI compatibles. Des exercices pratiques couvrent la création d'images Docker optimisées et la validation des premiers tokens générés.

Module 2 : Optimisation et mise en production vLLM & Text Generation Inference (Kubernetes, Prometheus)

La journée porte sur le déploiement en cluster avec Helm et l'intégration de métriques GPU. Les apprenants configurent l'autoscaling basé sur la queue de requêtes, appliquent des limites de VRAM et mesurent l'impact du paging sur la latence P99. Un cas réel de service 24/7 est reproduit et monitoré.

Voir cette formationFormation llama.cpp & Text Generation Inference

Module 3 : Supervision et maintenance vLLM & Text Generation Inference (Grafana, drift monitoring)

Les participants instrumentent les serveurs avec Prometheus et Grafana, détectent les anomalies de débit et mettent en place des alertes sur la saturation. Ils simulent un drift de distribution et testent les procédures de redéploiement sans downtime. Chaque équipe livre un tableau de bord réutilisable.

Comment sont évalués les acquis en vLLM & Text Generation Inference

Mise en place d'un serveur vLLM fonctionnel avec métriques exportées
Déploiement d'un service TGI scalable sur Kubernetes
Rapport d'optimisation avec mesures avant/après sur latence et coût

Méthode pédagogique de la formation vLLM & Text Generation Inference

Configuration avancée des moteurs d'inférence
Gestion des ressources GPU en production
Intégration de monitoring et d'alerting
Procédures de mise à jour et rollback

Modalités d'accès à la formation vLLM & Text Generation Inference

La formation Formation vLLM & Text Generation Inference est délivrée en présentiel ou distanciel (blended-learning, classe virtuelle, présentiel à distance). Chez Learni, organisme de formation certifié Qualiopi, chaque parcours est conçu pour maximiser l'acquisition de compétences, quel que soit le mode de formation choisi.

Le formateur alterne entre méthode démonstrative, interrogative et active (via des travaux pratiques et/ou des mises en situation). Cette approche pédagogique garantit un apprentissage concret et directement applicable en entreprise.

Moyens pédagogiques requis

Pour le bon déroulement de la formation Formation vLLM & Text Generation Inference, les moyens pédagogiques suivants sont nécessaires :

Ordinateurs Mac ou PC, connexion internet haut débit fibre, tableau blanc ou paperboard, vidéoprojecteur ou écran tactile interactif (pour les sessions en distanciel)
Environnements de formation installés sur les postes de travail ou accessibles en ligne
Supports de cours, exercices pratiques et ressources complémentaires
Accès post-formation aux supports et ressources pédagogiques

En cas de formation intra-entreprise sur site externe à Learni, le client s'assure et s'engage à disposer de toutes les ressources matérielles pédagogiques nécessaires (équipements informatiques, connexion internet…) au bon déroulement de l'action de formation conformément aux prérequis indiqués dans le programme de formation communiqué.

* nous consulter pour la faisabilité en distanciel** ratio variable selon la formation suivie

Modalités d'évaluation des acquis

L'évaluation des compétences acquises lors de la formation Formation vLLM & Text Generation Inference s'effectue à travers :

En cours de formation : études de cas, travaux pratiques et mises en situation professionnelle
En fin de formation : questionnaire d'auto-évaluation et évaluation des acquis par le formateur
Après la formation : attestation de fin de formation détaillant les compétences acquises

Accessibilité de la formation

Learni s'engage pour l'accessibilité de ses formations professionnelles. Toutes nos formations sont accessibles aux personnes en situation de handicap. Nos équipes sont à votre disposition pour adapter les modalités pédagogiques à vos besoins spécifiques. N'hésitez pas à nous contacter pour toute demande d'aménagement.

Modalités et délais d'accès à la formation

Les formations Learni sont disponibles en inter-entreprise et intra-entreprise, en présentiel comme en distanciel. Les inscriptions sont possibles jusqu'à 48 heures ouvrées avant le début de la formation. Nos formations sont éligibles aux financements OPCO, France Travail, FNE-Formation et CSP (contrat de sécurisation professionnelle). Contactez-nous pour étudier ensemble votre projet de formation et les possibilités de prise en charge.

L'histoire de Learni

Fondée par des passionnés de l'apprentissage et de l'innovation, Learni s'est donnée pour mission de rendre la formation professionnelle accessible à tous, partout dans le monde. Notre équipe intervient dans les plus grandes métropoles — Paris, Lyon, Marseille — mais aussi à l'international, pour accompagner les talents et les organisations dans leur montée en compétences.

Témoignages

Ce qu'ils disent
de nous.

★★★★★ Avis Google

★★★★★

« Learni a co-conçu notre programme IA pour 200 collaborateurs. Sélection rigoureuse, intervenants experts et accompagnement post-formation. Résultat : 92 % des apprenants ont mis en application en moins de 30 jours, et un ROI mesuré à +180 % sur le premier semestre. »

Julien BiancoDirectrice Formation

AFCI

★★★★★

« Nous avons confié à Learni la création de notre nouveau cycle. Allan sélectionne désormais nos formateurs : contenus pertinents et fort engagement. Apprenants très satisfaits et offre éducative renforcée. »

Thibaut AiméDirecteur Général

INGETIS

★★★★★

« En tant que Responsable pédagogique, j'ai été conquis par la réactivité et le professionnalisme de Learni : sélection rigoureuse des formateurs, suivi exemplaire et impact concret sur nos cohortes. »

Arnaud ParadisResponsable pédagogique

École IT

Notre méthode

Comment Learni garantit la qualité de votre formation vLLM & Text Generation Inference

Avant, pendant, après : on cadre, on présente le formateur, on adapte le contenu et on mesure l'impact. Vous gardez la main du début à la fin.

Étape 1

Sélection rigoureuse du formateur

Chaque formateur est validé sur trois critères : expertise métier en exercice, pédagogie éprouvée et alignement avec votre secteur.

Triple validation : technique, pédagogique, sectorielle.
Note minimale 4,8/5 sur les 12 dernières sessions.

Étape 2

Vous rencontrez le formateur avant

Visio de 30 minutes entre vous et le formateur retenu pour valider l'alignement, ajuster le contenu et lever les derniers doutes.

Briefing live des objectifs et du contexte d'équipe.
Veto possible — on remplace gratuitement si besoin.

Étape 3

Contenu adapté à votre contexte

Pas de slides recyclées. Le syllabus est retravaillé à partir de vos cas réels : outils, contraintes, vocabulaire, projets en cours.

Cas pratiques issus de votre stack et de vos projets.
Programme co-écrit puis validé par votre équipe.

Étape 4

Suivi qualité continu

Évaluations à chaud, à 30/90/180 jours et plan de consolidation. Si la formation n'a pas l'impact prévu, on retravaille.

NPS, quiz d'acquis et auto-évaluation des compétences.
Engagement satisfaction : 100 % satisfait ou refonte gratuite.

Une promesse simple : vous ne payez pas pour découvrir le formateur le jour J. Tout est validé en amont, par vous.

Un enfant sur le chemin de l'école avec son cartable

Engagement solidaire

Un kit scolaire offert à un enfant pour chaque formation réservée

Pour lutter contre les inégalités d'accès à l'éducation, Learni offre un kit scolaire complet à un enfant dans le besoin pour chaque formation réservée. Vous montez en compétence, un enfant prend le chemin de l'école.

Cartable, cahiers et fournitures essentielles
Distribué via nos associations partenaires
Inclus, sans surcoût pour vous

M'inscrire et offrir un kit

FAQ

Questions fréquentes sur vLLM & Text Generation Inference

Quels paramètres vLLM permettent de réduire la latence d'inférence ?+

Les paramètres max_num_seqs et max_num_batched_tokens contrôlent le continuous batching. Ajustés correctement, ils divisent par deux la latence P99 sur des charges mixtes selon les tests Learni.

Text Generation Inference supporte-t-il les modèles quantifiés en 4 bits ?+

Oui. TGI intègre AWQ et GPTQ nativement. Les participants testent des modèles Llama-3-70B en 4 bits avec une perte de perplexité inférieure à 0,3 point.

Comment dimensionner le nombre de GPU pour 200 requêtes simultanées ?+

Un H100 80 Go gère environ 80 séquences concurrentes pour un modèle 70B en FP16. Le calcul précis dépend du contexte moyen et du taux de génération cible.

Quelle est la différence principale entre vLLM et TGI en production ?+

vLLM excelle sur le scheduling de requêtes, tandis que TGI propose plus d'options de quantification et une compatibilité Hugging Face plus large.

Quel est le prix de la formation vLLM & Text Generation Inference ?+

La formation vLLM & Text Generation Inference coûte 3 300 € HT par participant. En intra-entreprise, le forfait démarre à 5 990 € HT pour tout le groupe, jusqu'à 8 personnes. Le devis détaillé, envoyé sous 24 h, ajuste le montant au format et à l'adaptation du programme à votre contexte.

Quelle est la durée de la formation vLLM & Text Generation Inference ?+

3 journées, en présentiel. Un découpage en demi-journées étalées sur plusieurs semaines est possible pour ne pas désorganiser l'équipe.

La formation vLLM & Text Generation Inference est-elle finançable ?+

Oui. Learni est certifié Qualiopi (NDA 11 77 08678 77), ce qui rend la formation vLLM & Text Generation Inference éligible aux financements OPCO, au dispositif FNE-Formation, à France Travail, au CSP pour les salariés licenciés pour motif économique et au financement direct par l'entreprise.

Faut-il des prérequis pour suivre la formation vLLM & Text Generation Inference ?+

Connaissances en Python, Docker et bases de serveurs HTTP. Expérience préalable avec au moins un framework de machine learning.

Une attestation est-elle délivrée à la fin de la formation vLLM & Text Generation Inference ?+

Oui. Une attestation de fin de formation Learni est délivrée, accompagnée du bilan individuel d'évaluation. Learni est certifié Qualiopi et prépare le cas échéant à une certification tierce, qu'il ne délivre pas lui-même.

Learni fournit-il le matériel pour la formation vLLM & Text Generation Inference ?+

Non. Un ordinateur et une connexion internet stable sont requis pour chaque participant. Learni assure la plateforme pédagogique, le formateur et l'ensemble des supports de cours.

Votre formation professionnelle partout