Neidio i'r cynnwys

Porth LLM

Prism

Ar gael

Un enw model gyda sawl gwerthwr y tu ôl iddo.

Porth sy'n gydnaws ag OpenAI ar gyfer modelau iaith mawr. Mae cleientiaid yn defnyddio un enw model gyda sawl gwerthwr y tu ôl iddo. Pan fydd gwerthwr yn rhedeg allan o gyllideb, yn gosod terfyn cyfradd neu'n mynd i lawr, mae Prism yn trosglwyddo'n awtomatig i'r un nesaf yng nghanol y cais heb amharu ar y cleient. Mae'r cyfeirnod API, a brofwyd yn erbyn y porth byw gyda ffeiliau deuaidd y cleient eu hunain, yn dogfennu unrhyw beth nad yw'n gweithio.

Ar gyfer pwy y mae wedi'i fwriadu. Timau sy'n galw LLMs o'u harfau eu hunain ac eisiau un allwedd ac un pwynt terfyn ar gyfer eu holl werthwyr.

Statws
Ar gael
Tagiau
Cydnaws ag OpenAINewid wrth fethuDilysu Bearer

Beth mae'n ei wneud

  • Un enw model

    Mae cleientiaid yn enwi model ac mae Prism yn penderfynu pa werthwr sy'n ei wasanaethu.

  • Newid gwerthwr yng nghanol cais

    Os yw gwerthwr dros ei gyllideb, wedi'i gyfyngu ar gyfradd neu i lawr, bydd yr un nesaf yn cymryd drosodd heb i'r cleient sylwi.

  • Cydnaws ag OpenAI

    Mae cleientiaid a SDKs presennol yn gweithio'n ddigyfnewid ar wahân i'r URL sylfaen a'r allwedd.

  • Cyfeirlyfr API wedi'i brofi

    Gwnaethom brofi'r datganiadau yn y cyfeirnod yn erbyn y porth byw a dogfennu'r bylchau rydym yn ymwybodol ohonynt.

Mae manylion dogfennaeth a mynediad ar safle'r cynnyrch, prism.rodmena.co.uk/llms.txt. Ar gyfer peilot, integreiddiad neu gwestiynau caffael, cysylltwch â ni.