بوابة LLM
Prism
متاحاسم نموذج واحد يقف خلفه عدة مورّدين.
بوابة متوافقة مع OpenAI لنماذج اللغات الكبيرة. يستخدم العملاء اسماً واحداً للنموذج مع وجود عدة موردين وراءه. وعندما ينفد رصيد أحد الموردين، أو يطبق حداً لمعدل الاستخدام (rate limit)، أو يتعطل، يقوم Prism بالتحويل التلقائي إلى المورد التالي في منتصف الطلب دون مقاطعة العميل. يوثق مرجع API، الذي تم اختباره مقابل البوابة المباشرة باستخدام الملفات الثنائية للعميل نفسها، أي شيء لا يعمل.
لمن هذا المنتج. الفرق التي تستدعي نماذج LLM من أدواتها الخاصة وتريد مفتاحاً واحداً ونقطة نهاية واحدة لجميع مورديها.
- الحالة
- متاح
- جزء من
- المنصة الأساسية
- موقع المنتج
- prism.rodmena.co.uk/llms.txt
- الوسوم
- متوافق مع OpenAIالتحويل عند الفشلمصادقة Bearer
وظائفه
-
اسم نموذج واحد
يحدد العملاء اسم نموذج، ويقرر Prism أي مورّد يقدمه.
-
التحويل عند الفشل أثناء الطلب
إذا تجاوز أحد المورّدين الميزانية أو بلغ حدّ المعدل أو تعطّل، يتولّى المورّد التالي المهمة دون أن يلاحظ العميل ذلك.
-
متوافق مع OpenAI
تعمل برامج العملاء ومجموعات SDK الحالية دون تغيير باستثناء عنوان URL الأساسي والمفتاح.
-
مرجع API مُختبَر
اختبرنا البيانات الواردة في المرجع مقابل البوابة المباشرة ووثقنا الثغرات التي نعرفها.
تتوفر الوثائق وتفاصيل الوصول على موقع المنتج، prism.rodmena.co.uk/llms.txt. ولمشروع تجريبي أو تكامل أو أسئلة تتعلق بالشراء، تواصلوا معنا.