Câu trả lời chỉ có hai câu. Sao nó lại tốn gần mười nghìn token?
Câu trả lời ngắn gọn đã nằm trong được một thời gian. Một câu trả lời được tính phí trên toàn bộ lượt trao đổi, không phải trên phần chữ bạn nhìn thấy. Ở mỗi lượt, mô hình đọc nhân vật, phần hội thoại gần đây, những nội dung Sách Thế Giới liên quan, tin nhắn của bạn và vài thứ khác, rồi mới bắt đầu viết. Trong một cuộc trò chuyện nhập vai, những gì nó đọc gần như luôn lớn hơn rất nhiều so với những gì nó viết.
Câu trả lời đó đúng, nhưng nó buộc bạn phải tin lời chúng tôi. Từ hôm nay, bạn không cần phải thế nữa.
Di chuột lên con số
Mở Tín dụng từ biểu tượng lịch sử cạnh số dư của bạn, rồi chuyển sang Sử dụng. Mọi yêu cầu đều được liệt kê ở đó như trước: nhân vật, mô hình, token, tín dụng. Điểm khác là giờ đây bạn có thể mở số token ra. Di chuột lên nó, hoặc chạm vào trên điện thoại, và bạn sẽ thấy Chi tiết token.
Nó luôn hiển thị hai con số: Đầu vào, những gì mô hình đã đọc, và Đầu ra, những gì nó đã viết. Với câu trả lời trong trò chuyện, nó còn hiển thị Đầu vào gồm những gì.
Đây là ví dụ cho một lượt nhập vai dài hơn. Các con số chỉ mang tính minh họa, nhưng tỷ lệ thì rất điển hình:
Phần
Token
Tỷ lệ
Lịch sử trò chuyện
3.800
40%
Nhân vật & danh tính
2.220
24%
Sách Thế Giới
640
6,8%
Tóm tắt trò chuyện
450
Bài viết liên quan
4,8%
Plugin
380
4%
Chỉ dẫn của nền tảng
350
3,7%
Ký ức dài hạn
310
3,3%
Công cụ & định dạng
1.270
13%
Lượt đó đã đọc 9.420 token và viết 412. Bản thân câu trả lời là phần nhỏ nhất trong yêu cầu.
Đọc bảng phân tích
Khi đã nhìn thấy được, vài điều trở nên hiển nhiên:
Lịch sử trò chuyện lớn dần theo cuộc trò chuyện. Các tin nhắn gần đây được gửi nguyên văn, nên một cảnh dài và nhiều diễn biến sẽ tốn hơn mỗi lượt so với một cuộc trò chuyện mới bắt đầu. Tin nhắn cũ hơn được gộp thành bản tóm tắt thay vì gửi đầy đủ, đó là lý do Tóm tắt trò chuyện luôn nhỏ hơn phần lịch sử mà nó thay thế. Bài đi sâu vào chi tiết.
Nhân vật là chi phí ở mọi lượt. Phần định nghĩa, kịch bản và phong cách trả lời phong phú là thứ khiến nhân vật có cảm giác như một con người thật. Nhưng tất cả cũng được đọc trọn vẹn ở mỗi câu trả lời, và danh tính của bạn cũng đi kèm theo.
Sách Thế Giới và ký ức dài hạn chỉ tính phần được dùng. Một cuốn Sách Thế Giới có hàng trăm mục không tốn bằng hàng trăm mục: Sách Thế Giới chỉ tính những mục thực sự được đưa vào câu trả lời này.
Plugin cộng dồn lại. Hầu hết plugin đặt chỉ dẫn riêng của chúng trước mô hình ở mỗi lượt. Một plugin hiếm khi đáng kể. Năm plugin trong cùng một cuộc trò chuyện sẽ hiện rõ ở đây.
Đầu ra thường chỉ là một phần nhỏ. Tín dụng được tính cho đầu vào và đầu ra cộng lại với cùng một mức, nên thứ khiến một lượt đắt đỏ không phải là câu trả lời dài. Mà là ngữ cảnh dài.
Không điều nào ở trên là lý do để bạn cắt trụi nhân vật của mình. Đây là cách để biết bạn đang trả tiền cho cái gì, để khi một cuộc trò chuyện bỗng thấy tốn kém, bạn có thể nhìn ra lý do thay vì phải đoán.
Các con số được tạo ra như thế nào
Chúng tôi muốn nói rõ với bạn đây chính xác là gì, hơn là để nó trông chính xác hơn thực tế.
Các nhà cung cấp mô hình chỉ báo một tổng số đầu vào cho mỗi yêu cầu. Họ không cho biết bao nhiêu token trong đó đến từ nhân vật và bao nhiêu đến từ lịch sử. Vì vậy, khi yêu cầu của bạn được lắp ráp, Reverie đo từng phần dựa trên chính văn bản của phần đó. Khi câu trả lời trở về, các ước tính đó được quy đổi theo tỷ lệ với số đầu vào mà nhà cung cấp báo. Đó là lý do các phần mang nhãn Ước tính, và vì sao tổng của chúng luôn khớp chính xác với số đầu vào bạn bị tính phí.
Công cụ & định dạng là những gì không phần nào khác bao gồm: mô tả các công cụ mà nhân vật có thể dùng, phần khung bao quanh mỗi tin nhắn, và khoảng chênh nhỏ giữa ước tính của chúng tôi với số đếm của nhà cung cấp. Chúng tôi hiển thị nó thành một dòng riêng thay vì rải đều vào các phần khác.
Một vài giới hạn nên biết:
Bảng phân tích áp dụng cho câu trả lời trong trò chuyện trên trang web, trong bot và sau khi bạn liên kết tài khoản, và qua .
Nó được lưu trong 30 ngày. Các câu trả lời cũ hơn, và những câu trả lời từ trước khi có tính năng này, chỉ hiển thị đầu vào và đầu ra.
Các loại sử dụng khác, như gợi ý, lượt truyện và chương tiểu thuyết, hiện cũng chỉ hiển thị đầu vào và đầu ra.
Những gì nó không hiển thị
Bảng phân tích là kích thước, không phải văn bản. Nó cho bạn biết phần định nghĩa nhân vật chiếm 2.220 token trong câu trả lời của bạn; nó không bao giờ cho bạn xem phần định nghĩa đó. Điều này quan trọng vì nhiều nhân vật bạn trò chuyện cùng là do người khác viết, và thẻ nhân vật là tác phẩm của họ. Bạn nhận được bản kê đầy đủ về những gì mình đã trả, còn người sáng tạo vẫn giữ tay nghề cho riêng mình.
Vì sao chúng tôi tiếp tục làm điều này
Đây là một tính năng nhỏ. Nó cũng là việc mới nhất trong một thói quen mà chúng tôi định giữ.
tính phí theo token, với hệ số nhân cho từng mô hình mà chúng tôi công bố. đã trình bày những gì chạy phía sau một tin nhắn, và giải thích cách chúng tôi giữ cho cùng một mô hình không âm thầm tệ đi.
Nhiều sản phẩm chat AI chỉ cho bạn thấy số dư giảm dần và gần như không gì khác. Chúng tôi nghĩ bạn nên có thể nhìn vào bất kỳ tín dụng nào mình đã tiêu và thấy nó đã đi đâu, để lần tới khi một câu trả lời hai dòng tốn mười nghìn token, bạn sẽ không phải hỏi chúng tôi tại sao. Câu trả lời chỉ cách bạn một lần di chuột.
Tài liệu tham khảo đầy đủ, kèm ý nghĩa của từng phần, nằm trong .
Sẵn sàng trải nghiệm cuộc trò chuyện AI năng động?
Tham gia hàng ngàn người dùng đang khám phá tính cách vô tận và tương tác hấp dẫn trên Reverie.