Passerelle LLM
Prism
DisponibleUn nom de modèle avec plusieurs fournisseurs derrière.
Une passerelle compatible avec OpenAI pour les grands modèles de langage. Les clients utilisent un seul nom de modèle regroupant plusieurs fournisseurs. Lorsqu'un fournisseur épuise son budget, applique une limite de débit ou devient indisponible, Prism bascule vers le suivant en cours de requête, sans interrompre le client. La référence de l'API, testée directement sur la passerelle en production à l'aide des binaires clients, documente tout dysfonctionnement éventuel.
À qui il est destiné. Équipes appelant des LLM depuis leurs propres outils et souhaitant disposer d'une clé et d'un endpoint uniques pour l'ensemble de leurs fournisseurs.
- Statut
- Disponible
- Partie de
- Plateforme centrale
- Site produit
- prism.rodmena.co.uk/llms.txt
- Étiquettes
- Compatible OpenAIBasculementAuthentification Bearer
Ce que cela fait
-
Un nom de modèle
Les clients nomment un modèle et Prism décide quel fournisseur le sert.
-
Basculement en cours de requête
Si un fournisseur épuise son budget, est limité en débit ou indisponible, le suivant prend le relais sans que le client ne s’en aperçoive.
-
Compatible OpenAI
Les clients et SDK existants fonctionnent sans modification, hormis l’URL de base et la clé.
-
Référence API testée
Nous avons testé les affirmations de la documentation de référence sur la passerelle en production et documenté les écarts identifiés.
La documentation et les détails d’accès se trouvent sur le site du produit, prism.rodmena.co.uk/llms.txt. Pour un pilote, une intégration ou des questions d’achat, contactez-nous.