Khám phá các mô hình

Tổng số yêu cầu đã xử lý theo từng mô hình
Dữ liệu trong 90 ngày gần đây
Số lượng token trung bình được xử lý mỗi giây theo từng mô hình
Dữ liệu trong 90 ngày gần đây
Chi phí trung bình cho mỗi mô hình trên tất cả các yêu cầu trong 90 ngày qua
Dữ liệu trong 90 ngày gần đây
Dữ liệu trong 90 ngày gần đây
Yêu cầu
Tổng số yêu cầu riêng lẻ gửi đến một LLM cụ thể từ Botpress.
Tốc độ
Số token trung bình mỗi giây được tạo ra bởi một LLM cụ thể khi nhận yêu cầu từ Botpress.
Chi phí
Chi phí trung bình (USD) cho 1.000 yêu cầu gửi đến một LLM từ Botpress.
model_second
model_first
xx token
Tổng số token đã xử lý trong 90 ngày gần nhất trên Botpress.
số lượng
output_tokens_per_sec_mean
$cost_mean

Câu hỏi thường gặp

Yêu cầu là gì?
Một yêu cầu là một lần tương tác gửi đến mô hình ngôn ngữ lớn (LLM) từ Botpress. Nó bao gồm dữ liệu đầu vào, các tham số cấu hình và mọi ngữ cảnh liên quan cần thiết để mô hình xử lý và trả về phản hồi. Mỗi yêu cầu là một lần gọi đến LLM, ví dụ như tạo văn bản, trả lời câu hỏi hoặc thực hiện các tác vụ khác.

Dữ liệu trong các biểu đồ trên thể hiện số lượng yêu cầu riêng lẻ gửi đến từng LLM mà người dùng truy vấn từ Botpress.
Tốc độ nghĩa là gì?
Tốc độ là số lượng token trung bình mà một LLM tạo ra mỗi giây khi xử lý một yêu cầu. Token là các đơn vị văn bản, như từ hoặc phần của từ, mà mô hình đọc hoặc tạo ra. Chỉ số này phản ánh hiệu suất đầu ra của mô hình, cho biết mức độ nhanh chóng mà nó có thể trả về một phản hồi.

Dữ liệu trong các biểu đồ trên thể hiện trung bình tổng số token mà một mô hình tạo ra mỗi giây khi được truy vấn từ Botpress.
Chi phí nghĩa là gì?
Chi phí là giá trung bình tính bằng đô la Mỹ để xử lý 1.000 yêu cầu gửi đến một LLM cụ thể từ Botpress. Chỉ số này giúp bạn so sánh chi phí sử dụng các mô hình khác nhau, cung cấp góc nhìn về hiệu quả chi phí khi xử lý số lượng lớn yêu cầu.

Một cuộc hội thoại có thể chứa nhiều yêu cầu. Bạn có thể dùng dữ liệu trong các biểu đồ trên để ước tính sơ bộ chi phí AI hàng tháng dựa trên tính chất hội thoại của mình.
Dữ liệu trên trang này được cập nhật bao lâu một lần?
Mặc dù thông tin về việc sử dụng LLM trong Botpress được thu thập theo thời gian thực, các biểu đồ trên trang này được cập nhật mỗi 48 giờ một lần.