Ontdek modellen

Totaal aantal verzoeken verwerkt per model
Gegevens van de afgelopen 90 dagen
Gemiddeld aantal tokens per seconde verwerkt per model
Gegevens van de afgelopen 90 dagen
Gemiddelde kosten per model voor alle verzoeken in 90 dagen
Gegevens van de afgelopen 90 dagen
Gegevens van de afgelopen 90 dagen
Verzoeken
Het totale aantal individuele verzoeken aan een specifiek LLM vanuit Botpress.
Snelheid
Gemiddeld aantal tokens per seconde dat een specifiek LLM genereert bij een verzoek vanuit Botpress.
Kosten
Gemiddelde kosten (USD) van 1.000 verzoeken aan een individueel LLM vanuit Botpress.
model_second
model_first
xx tokens
Som van alle tokens verwerkt in de afgelopen 90 dagen op Botpress.
aantal
output_tokens_per_sec_mean
$cost_mean

Veelgestelde vragen

Wat zijn verzoeken?
Een verzoek is een enkele interactie die vanuit Botpress naar een groot taalmodel (LLM) wordt gestuurd. Dit omvat de invoergegevens, configuratieparameters en alle relevante context die nodig is voor het model om het verzoek te verwerken en een antwoord te geven. Elk verzoek staat voor één oproep naar een LLM, bijvoorbeeld voor het genereren van tekst, het beantwoorden van een vraag of het uitvoeren van andere taken.

De gegevens in de bovenstaande grafieken tonen het aantal individuele verzoeken aan elk van de LLM's die door gebruikers vanuit Botpress zijn aangeroepen.
Waar verwijst snelheid naar?
Snelheid verwijst naar het gemiddelde aantal tokens dat een LLM per seconde genereert bij het verwerken van een verzoek. Tokens zijn eenheden tekst, zoals woorden of delen van woorden, die het model leest of produceert. Deze meting geeft de uitvoerprestaties van het model weer en laat zien hoe snel het een antwoord kan geven.

De gegevens in de bovenstaande grafieken tonen het gemiddelde totale aantal tokens dat een model per seconde genereert wanneer het via Botpress wordt bevraagd.
Waar verwijst kosten naar?
Kosten verwijst naar de gemiddelde prijs in Amerikaanse dollars voor het verwerken van 1.000 verzoeken aan een specifiek LLM vanuit Botpress. Deze maatstaf geeft inzicht in de relatieve kosten van verschillende modellen en helpt bij het beoordelen van hun kostenefficiëntie bij grote aantallen verzoeken.

Een enkel gesprek kan uit meerdere verzoeken bestaan. Je kunt de gegevens in de bovenstaande grafieken gebruiken om, afhankelijk van het type gesprekken, je maandelijkse AI-kosten globaal in te schatten.
Hoe vaak worden de gegevens op deze pagina bijgewerkt?
Hoewel informatie over LLM-gebruik in Botpress in realtime wordt verzameld, worden de grafieken op deze pagina elke 48 uur bijgewerkt.