LLM Sıralaması | Farklı modeller Botpress'te nasıl performans gösteriyor?

Son 90 güne ait veriler

model_second

model_first

adet

output_tokens_per_sec_mean

$cost_mean

Sıkça Sorulan Sorular

İstekler nedir?

Bir istek, Botpress üzerinden büyük bir dil modeline (LLM) gönderilen tek bir etkileşimi ifade eder. Bu, giriş verilerini, yapılandırma parametrelerini ve modelin isteği işleyip yanıt döndürmesi için gereken ilgili bağlamı içerir. Her istek, bir LLM'ye yapılan bir çağrıyı temsil eder; örneğin metin oluşturma, bir soruyu yanıtlama veya başka görevler gerçekleştirme gibi.

Yukarıdaki grafiklerdeki veriler, Botpress kullanıcıları tarafından sorgulanan her bir LLM'ye yapılan bireysel istek sayısını göstermektedir.

Hız neyi ifade eder?

‍Hız, bir LLM'nin bir isteği işlerken saniyede ürettiği ortalama token sayısını ifade eder. Tokenlar, modelin okuduğu veya ürettiği kelimeler ya da kelime parçaları gibi metin birimleridir. Bu ölçüm, modelin çıktı performansını gösterir ve yanıtı ne kadar hızlı döndürebileceğini belirtir.

Yukarıdaki grafiklerdeki veriler, bir modelin Botpress üzerinden sorgulandığında saniyede ürettiği toplam token sayısının ortalamasını göstermektedir.

Maliyet neyi ifade eder?

Maliyet, Botpress üzerinden belirli bir LLM'ye yapılan 1.000 isteğin ortalama ABD doları cinsinden fiyatını ifade eder. Bu metrik, farklı modellerin kullanım maliyetlerini karşılaştırmanıza ve yüksek hacimli isteklerde maliyet etkinlikleri hakkında fikir edinmenize yardımcı olur.

Tek bir konuşma birden fazla istek içerebilir. Yukarıdaki grafiklerdeki verileri, konuşmalarınızın yapısına göre aylık AI harcamanızı yaklaşık olarak tahmin etmek için kullanabilirsiniz.

Bu sayfadaki veriler ne sıklıkla güncelleniyor?

Botpress'teki LLM kullanım bilgileri gerçek zamanlı olarak toplansa da, bu sayfadaki grafikler her 48 saatte bir güncellenir.

Modelleri keşfedin

Sıkça Sorulan Sorular