llm-gateway
Notoriété 78 %
Plateforme open-source qui agit comme un routeur intelligent pour les requêtes vers des modèles d'intelligence artificielle. Elle permet de connecter plusieurs fournisseurs (OpenAI, Anthropic, Google, etc.) via une seule API compatible OpenAI, facilitant ainsi l'intégration et la gestion des coûts. La solution inclut des fonctionnalités avancées comme le suivi des dépenses, la réparation automatique des requêtes échouées et un système de fallback pour garantir la continuité du service.
Dépôts de code
- https://github.com/mnfst/llm-gateway (nouvelle fenêtre)7 567 étoiles
- https://github.com/mnfst/autofix (nouvelle fenêtre)3 étoiles
- https://github.com/mnfst/docs (nouvelle fenêtre)3 étoiles
- https://github.com/mnfst/manifest-template-template (nouvelle fenêtre)1 étoiles
- https://github.com/mnfst/website (nouvelle fenêtre)2 étoiles
- https://github.com/mnfst/manifest-python (nouvelle fenêtre)
- https://github.com/mnfst/manifest-node (nouvelle fenêtre)
Cas d'utilisation métiers
- Route les requêtes vers les modèles LLM adaptés : rechercher des initiatives proches
- Fournit un tableau de bord en temps réel : rechercher des initiatives proches
- Optimise les coûts d'utilisation des API d'IA : rechercher des initiatives proches
- Centralise la gestion des fournisseurs d'IA : rechercher des initiatives proches
- Répare automatiquement les requêtes échouées : rechercher des initiatives proches
Cas d'utilisation fonctionnels
- Envoie des emails : voir les initiatives qui l'ont aussi
- Possède un système de recherche : voir les initiatives qui l'ont aussi
- Possède un système d'authentification : voir les initiatives qui l'ont aussi
- Gère l'upload de fichiers : voir les initiatives qui l'ont aussi
- Possède un système de paiement : voir les initiatives qui l'ont aussi
- Est disponible en plusieurs langues : voir les initiatives qui l'ont aussi
- Fait des rapports d'analyses : voir les initiatives qui l'ont aussi
- Fait des rapports d'erreurs : voir les initiatives qui l'ont aussi
- Utilise de l'intelligence artificielle : voir les initiatives qui l'ont aussi
- Expose une API : voir les initiatives qui l'ont aussi
Outils utilisés
- Vercel AI SDK : voir les initiatives qui l'ont aussi
- PostGraphile : voir les initiatives qui l'ont aussi
- OpenAI : voir les initiatives qui l'ont aussi
- Amazon S3 : voir les initiatives qui l'ont aussi
- Stripe Billing : voir les initiatives qui l'ont aussi
- NestJS : voir les initiatives qui l'ont aussi
- OAuth2 : voir les initiatives qui l'ont aussi
- TypeORM : voir les initiatives qui l'ont aussi
- Google AI Platform : voir les initiatives qui l'ont aussi
- React : voir les initiatives qui l'ont aussi
Description générée le jeudi 12 novembre 2026 à 19:33:38