Pasarela LLM
Prism
DisponibleUn nombre de modelo con varios proveedores detrás.
Una pasarela compatible con OpenAI para modelos de lenguaje grandes. Los clientes usan un único nombre de modelo con varios proveedores detrás. Cuando un proveedor agota su presupuesto, aplica un límite de velocidad o deja de funcionar, Prism conmuta al siguiente a mitad de solicitud sin interrumpir al cliente. La referencia de la API se probó contra la pasarela en producción con los propios binarios del cliente, y documenta todo lo que no funciona.
Para quién es. Equipos que llaman a LLM desde sus propias herramientas y quieren una sola clave y un solo endpoint para todos los proveedores.
- Estado
- Disponible
- Forma parte de
- Plataforma principal
- Sitio del producto
- prism.rodmena.co.uk/llms.txt
- Etiquetas
- Compatible con OpenAIConmutación por errorAutenticación de portador
Qué hace
-
Un nombre de modelo
Los clientes indican un modelo y Prism decide qué proveedor lo sirve.
-
Conmutación por error a mitad de solicitud
Si un proveedor se queda sin presupuesto, alcanza su límite de peticiones o no está disponible, el siguiente toma el relevo sin que el cliente lo note.
-
Compatible con OpenAI
Los clientes y SDK existentes funcionan sin cambios salvo la URL base y la clave.
-
Referencia de API probada
Cada afirmación de la referencia se probó contra la pasarela en producción, y las carencias conocidas están documentadas.
La documentación y los detalles de acceso están en el sitio del producto, prism.rodmena.co.uk/llms.txt. Para un piloto, una integración o preguntas de contratación, contacte con nosotros.