Ce projet permet de déployer une API complète compatible OpenAI pour servir des modèles de langage (LLM) et des modèles d'embeddings. Il combine vLLM pour l'inférence des LLM et HuggingFace Text Embeddings Inference pour les embeddings, offrant ainsi une solution légère et facile à maintenir. L'API expose des endpoints standardisés (/v1/models, /v1/completions, /v1/chat/completions, /v1/embeddings) pour une intégration simplifiée avec des outils comme LangChain.