Outil permettant d'évaluer et comparer les performances de serveurs d'inférence pour modèles de langage (LLM). Il génère des graphiques et rapports détaillés sur la vitesse de génération, l'utilisation du cache KV, et la capacité à gérer des requêtes parallèles. Les résultats aident à identifier les goulots d'étranglement et à optimiser les configurations pour des déploiements en production.

Ce projet compile et publie les résultats de benchmarks réalisés sur des serveurs de modèles de langage (LLM). Il permet d'évaluer et de comparer les performances de différentes solutions d'infrastructure pour l'exécution de ces modèles, en fournissant des métriques objectives et reproductibles. Les données générées aident les développeurs et les organisations à choisir les meilleures configurations pour leurs besoins en IA.

Outil d'optimisation automatique des performances des serveurs vLLM (Large Language Model) pour les déploiements en production. Il automatise la recherche des meilleurs paramètres de configuration (comme les flags du serveur vLLM) en utilisant des algorithmes d'optimisation (Optuna) et des benchmarks avancés (GuideLLM). Permet d'améliorer le débit, la latence et l'efficacité énergétique des modèles de langage tout en réduisant les coûts d'inférence.

Ce projet, développé dans le cadre du Programme 10% de la DINUM et de l'Insee, propose un guide complet pour aider les administrations et organisations à comprendre, choisir et déployer des modèles de langage (LLM). Il couvre l'analyse des besoins, l'évaluation des solutions, l'optimisation des infrastructures et la mise en production, en incluant des cas d'usage concrets et des benchmarks pour faciliter la prise de décision.

Ce projet vise à benchmarker différentes méthodes de détection de graines dans des réseaux biologiques. Il permet d'importer et de traiter des données de réseaux biologiques, ainsi que d'analyser la précision de différents algorithmes de détection de graines.

Ce projet permet de mesurer, analyser et comparer les performances d'applications ou de fonctions logicielles au fil du temps. Il offre des outils pour exécuter des tests de performance, sauvegarder les résultats, surveiller des métriques clés (temps d'exécution, valeurs numériques, etc.) et détecter automatiquement les régressions. Les données collectées peuvent être visualisées sous forme de graphiques ou de tableaux pour faciliter l'interprétation des résultats.