LLM 排行榜 | 不同模型在 Botpress 上的表现如何？

过去 90 天的数据

model_second

model_first

数量

output_tokens_per_sec_mean

$cost_mean

常见问题

什么是请求？

请求指的是从 Botpress 向大型语言模型（LLM）发送的一次交互。它包含输入数据、配置参数以及模型处理请求并返回响应所需的相关上下文。每个请求代表一次对 LLM 的调用，例如生成文本、回答问题或执行其他任务。

上方图表中的数据展示了用户从 Botpress 向各 LLM 发起的单独请求数量。

速度指的是什么？

‍速度指的是大型语言模型（LLM）在处理请求时每秒生成的平均标记数。标记是文本的基本单位，包括单词或单词的一部分，是模型读取或生成的内容。这个指标反映了模型的输出性能，即模型返回响应的速度。

上方图表中的数据展示了从Botpress查询时，模型每秒平均生成的标记总数。

成本指的是什么？

成本指的是从 Botpress 向特定 LLM 发起 1,000 次请求的平均美元价格。该指标有助于展示不同模型的使用费用，为大批量请求时的成本效益提供参考。

一次对话可能包含多个请求。您可以结合上方图表数据，根据对话内容，粗略估算每月的 AI 花费。

本页面的数据多久更新一次？

虽然 Botpress 中的 LLM 使用信息是实时收集的，但本页面的图表每 48 小时更新一次。

发现更多模型

常见问题