VLLM est une bibliothèque open source conçue pour servir et optimiser l'inférence des grands modèles de langage (LLM). Elle permet de déployer des modèles de manière rapide, économique et scalable, en améliorant significativement le débit et l'efficacité énergétique. Idéale pour les entreprises et chercheurs souhaitant exploiter des LLM sans investir dans des infrastructures coûteuses.