Ce dépôt de Helm Charts est spécialement conçu pour les développeurs et prend en charge plusieurs langages de développement, dont Java. Il offre des modèles de déploiement pour faciliter le déploiement d'applications développées en différents langages.

Ce projet fournit une solution Helm pour déployer et gérer des infrastructures d'IA générative sur Kubernetes. Il facilite l'installation et la configuration de modèles de langage, d'outils de traitement de texte et d'applications associées comme des interfaces de chat ou des systèmes de recherche sémantique. Destiné aux développeurs et organisations souhaitant intégrer des capacités d'IA avancées, il simplifie le déploiement et la maintenance des composants nécessaires.

TensorFlow est un framework open source dédié à l'apprentissage automatique et au deep learning. Il permet aux développeurs et chercheurs de concevoir, entraîner et déployer des modèles d'intelligence artificielle pour résoudre des problèmes complexes. Utilisé dans divers domaines comme la vision par ordinateur, le traitement du langage naturel ou la robotique, il facilite la création d'applications innovantes en automatisant des processus analytiques et décisionnels.

Outil d'optimisation automatique des performances des serveurs vLLM (Large Language Model) pour les déploiements en production. Il automatise la recherche des meilleurs paramètres de configuration (comme les flags du serveur vLLM) en utilisant des algorithmes d'optimisation (Optuna) et des benchmarks avancés (GuideLLM). Permet d'améliorer le débit, la latence et l'efficacité énergétique des modèles de langage tout en réduisant les coûts d'inférence.

Bibliothèque open source dédiée à l'estimation de l'incertitude et à la détection de données hors distribution (OoD) pour les modèles d'intelligence artificielle. Elle permet d'évaluer et de déployer des méthodes d'incertitude pour des tâches de vision par ordinateur (classification d'images, détection d'objets, segmentation sémantique) et de traitement automatique des langues (détection d'hallucinations dans les grands modèles de langage).

EsupMyIA est une solution open source conçue pour déployer une intelligence artificielle souveraine au sein des établissements d'enseignement supérieur français. Elle permet d'héberger des modèles de langage avancés (Mistral, Llama, Qwen, Gemma) via des infrastructures souveraines comme ILaaS (CINES) ou des clés API alternatives (Mistral AMUE/Pro). L'outil facilite la création d'interfaces conversationnelles similaires à ChatGPT, l'intégration de documents internes pour des réponses contextualisées, et le déploiement en production avec des garanties de sécurité et de conformité.

Plateforme d'orchestration et d'exploitation dédiée à l'indexation automatique des sujets RAMEAU pour les bibliothèques universitaires. Elle centralise la gestion des conteneurs Docker, l'orchestration des services d'inférence, de vectorisation et de stockage vectoriel, ainsi que les procédures de déploiement et de supervision. Son objectif est d'améliorer l'efficacité des catalogueurs en proposant des suggestions d'indexation sémantique basées sur des modèles de langage et des bases de données vectorielles.

Outil open source développé pour la fonction publique française afin d'estimer précisément les ressources GPU nécessaires au déploiement à grande échelle de modèles de langage (LLM). Il permet aux administrations de dimensionner leur infrastructure IA en fonction du nombre d'utilisateurs, des performances attendues et des contraintes techniques, avec une marge d'erreur inférieure à 10% pour des modèles allant de 8 à 27 milliards de paramètres. L'outil facilite la comparaison entre solutions commerciales et auto-hébergées tout en garantissant une approche reproductible et transparente.

VLLM est une bibliothèque open source conçue pour servir et optimiser l'inférence des grands modèles de langage (LLM). Elle permet de déployer des modèles de manière rapide, économique et scalable, en améliorant significativement le débit et l'efficacité énergétique. Idéale pour les entreprises et chercheurs souhaitant exploiter des LLM sans investir dans des infrastructures coûteuses.

Ce projet, développé dans le cadre du Programme 10% de la DINUM et de l'Insee, propose un guide complet pour aider les administrations et organisations à comprendre, choisir et déployer des modèles de langage (LLM). Il couvre l'analyse des besoins, l'évaluation des solutions, l'optimisation des infrastructures et la mise en production, en incluant des cas d'usage concrets et des benchmarks pour faciliter la prise de décision.