Ce projet est un serveur d'inférence dédié aux modèles de langage de grande taille (LLM). Il permet d'exécuter des requêtes de génération de texte en temps réel via une API, facilitant l'intégration de modèles d'intelligence artificielle dans des applications tierces. Le serveur prend en charge plusieurs types d'inférences, notamment via des services comme Hugging Face ou des solutions cloud comme S3, et offre une interface standardisée pour interagir avec ces modèles.

Projet de développement backend utilisant ExpressJS pour créer une API ou un service web. Il inclut des outils pour l'exécution de tests automatisés, la gestion de scripts TypeScript et le développement d'applications serveur. Le projet facilite la création et le test de fonctionnalités backend de manière structurée et maintenable.