LLM Ranking | Paano gumaganap ang iba’t ibang modelo sa Botpress?

Datos mula sa nakaraang 90 araw

model_second

model_first

bilang

output_tokens_per_sec_mean

$cost_mean

FAQs

Ano ang mga request?

Ang request ay tumutukoy sa isang interaksyon na ipinadala sa large language model (LLM) mula sa Botpress. Kabilang dito ang input data, configuration parameters, at anumang kaugnay na konteksto na kailangan ng modelo para maproseso ang request at makapagbalik ng tugon. Bawat request ay isang tawag sa LLM, tulad ng pagbuo ng teksto, pagsagot sa tanong, o iba pang gawain.

Ipinapakita ng datos sa mga tsart sa itaas ang bilang ng mga indibidwal na request na ginawa sa bawat isa sa mga LLM na tinanong ng mga user mula sa Botpress.

Ano ang tinutukoy ng bilis?

Ang Bilis ay tumutukoy sa karaniwang bilang ng mga token na nalilikha ng isang LLM bawat segundo habang nagpoproseso ng isang kahilingan. Ang mga token ay mga yunit ng teksto, gaya ng mga salita o bahagi ng salita, na binabasa o nililikha ng modelo. Ang pagsukat na ito ay nagpapakita kung gaano kabilis makapagbigay ng tugon ang modelo.

Ipinapakita ng datos sa mga tsart sa itaas ang karaniwang kabuuang bilang ng mga token na nalilikha ng isang modelo bawat segundo kapag tinanong mula sa Botpress.

Ano ang tinutukoy ng gastos?

Ang Gastos ay tumutukoy sa karaniwang presyo sa US dollars para sa pagproseso ng 1,000 request sa isang partikular na LLM mula sa Botpress. Nakakatulong ang metric na ito para makita ang pagkakaiba ng gastos sa paggamit ng iba’t ibang modelo, at malaman kung alin ang mas matipid kapag malakihan ang request.

Maaaring maraming request sa isang usapan. Maaari mong gamitin ang data sa mga chart sa itaas para tantiyahin, batay sa uri ng iyong mga usapan, ang iyong buwanang gastos sa AI.

Gaano kadalas ina-update ang datos sa pahinang ito?

Bagama’t real-time na kinokolekta ang impormasyon sa paggamit ng LLM sa Botpress, ang mga chart sa page na ito ay ina-update kada 48 oras.

Tuklasin ang mga modelo

FAQs