بوابة LLM
Prism
متاحاسم نموذج واحد يقف خلفه عدة مورّدين.
بوابة متوافقة مع OpenAI لنماذج اللغة الكبيرة. يستخدم العملاء اسم نموذج واحد مع عدة موردين خلفه. عندما ينفد رصيد أحد الموردين أو يفرض حدًا للمعدل أو يتعطل، ينتقل Prism إلى المورد التالي في منتصف الطلب دون مقاطعة العميل. تم اختبار مرجع واجهة برمجة التطبيقات مقابل البوابة المباشرة باستخدام ملفات العميل التنفيذية نفسها، وهو يوثّق أي شيء لا يعمل.
لمن هذا المنتج. الفرق التي تستدعي LLMs من أدواتها الخاصة وتريد مفتاحًا واحدًا ونقطة نهاية واحدة لكل مورّد.
- الحالة
- متاح
- جزء من
- المنصة الأساسية
- موقع المنتج
- prism.rodmena.co.uk/llms.txt
- الوسوم
- متوافق مع OpenAIالتحويل عند الفشلمصادقة Bearer
وظائفه
-
اسم نموذج واحد
يحدد العملاء اسم نموذج، ويقرر Prism أي مورّد يقدمه.
-
التحويل عند الفشل أثناء الطلب
إذا تجاوز أحد المورّدين الميزانية أو بلغ حدّ المعدل أو تعطّل، يتولّى المورّد التالي المهمة دون أن يلاحظ العميل ذلك.
-
متوافق مع OpenAI
تعمل برامج العملاء ومجموعات SDK الحالية دون تغيير باستثناء عنوان URL الأساسي والمفتاح.
-
مرجع API مُختبَر
تم اختبار كل عبارة في المرجع مقابل البوابة المباشرة، وتوثيق الفجوات المعروفة.
تتوفر الوثائق وتفاصيل الوصول على موقع المنتج، prism.rodmena.co.uk/llms.txt. ولمشروع تجريبي أو تكامل أو أسئلة تتعلق بالشراء، تواصلوا معنا.