Neidio i'r cynnwys

Porth LLM

Prism

Ar gael

Un enw model gyda sawl gwerthwr y tu ôl iddo.

Porth sy'n gydnaws ag OpenAI ar gyfer modelau iaith mawr. Mae cleientiaid yn defnyddio un enw model gyda sawl gwerthwr y tu ôl iddo. Pan fydd gwerthwr yn rhedeg allan o gyllideb, yn gosod terfyn cyfradd neu'n mynd i lawr, mae Prism yn newid i'r nesaf yng nghanol cais heb darfu ar y cleient. Profwyd cyfeirlyfr yr API yn erbyn y porth byw gyda rhaglenni deuaidd y cleientiaid eu hunain, ac mae'n dogfennu unrhyw beth nad yw'n gweithio.

Ar gyfer pwy y mae wedi'i fwriadu. Timau sy'n galw LLMs o'u hoffer eu hunain ac sydd am gael un allwedd ac un pwynt terfyn ar gyfer pob gwerthwr.

Statws
Ar gael
Tagiau
Cydnaws ag OpenAINewid wrth fethuDilysu Bearer

Beth mae'n ei wneud

  • Un enw model

    Mae cleientiaid yn enwi model ac mae Prism yn penderfynu pa werthwr sy'n ei wasanaethu.

  • Newid gwerthwr yng nghanol cais

    Os yw gwerthwr dros ei gyllideb, wedi'i gyfyngu ar gyfradd neu i lawr, bydd yr un nesaf yn cymryd drosodd heb i'r cleient sylwi.

  • Cydnaws ag OpenAI

    Mae cleientiaid a SDKs presennol yn gweithio'n ddigyfnewid ar wahân i'r URL sylfaen a'r allwedd.

  • Cyfeirlyfr API wedi'i brofi

    Profwyd pob datganiad yn y cyfeirlyfr yn erbyn y porth byw, ac mae bylchau hysbys wedi'u dogfennu.

Mae manylion dogfennaeth a mynediad ar safle'r cynnyrch, prism.rodmena.co.uk/llms.txt. Ar gyfer peilot, integreiddiad neu gwestiynau caffael, cysylltwch â ni.