Passerelle LLM
Prism
DisponibleUn nom de modèle avec plusieurs fournisseurs derrière.
Une passerelle compatible OpenAI pour les grands modèles de langage. Les clients utilisent un seul nom de modèle, derrière lequel se trouvent plusieurs fournisseurs. Lorsqu'un fournisseur épuise son budget, applique une limite de débit ou tombe en panne, Prism bascule vers le suivant en cours de requête sans interrompre le client. La référence de l'API a été testée contre la passerelle en production avec les binaires clients eux-mêmes, et elle documente tout ce qui ne fonctionne pas.
À qui il est destiné. Les équipes qui appellent des LLM depuis leurs propres outils et veulent une seule clé et un seul point de terminaison pour chaque fournisseur.
- Statut
- Disponible
- Partie de
- Plateforme centrale
- Site produit
- prism.rodmena.co.uk/llms.txt
- Étiquettes
- Compatible OpenAIBasculementAuthentification Bearer
Ce que cela fait
-
Un nom de modèle
Les clients nomment un modèle et Prism décide quel fournisseur le sert.
-
Basculement en cours de requête
Si un fournisseur dépasse le budget, est limité en débit ou indisponible, le suivant prend le relais sans que le client ne s'en aperçoive.
-
Compatible OpenAI
Les clients et SDK existants fonctionnent sans modification, hormis l'URL de base et la clé.
-
Référence API testée
Chaque énoncé de la référence a été testé sur la passerelle en production, et les écarts connus sont documentés.
La documentation et les détails d'accès se trouvent sur le site du produit, prism.rodmena.co.uk/llms.txt. Pour un pilote, une intégration ou des questions d'achat, contactez-nous.