Token'larınız Nereye Gidiyor: Her Yanıtın Tam Dökümü
Reverie Team
•
Bu sayfada
Bu soru genellikle bir ekran görüntüsüyle birlikte gelir:
Yanıt iki cümleydi. Neden neredeyse on bin token tuttu?
Kısa cevap bir süredir yazıyor. Bir yanıt, gördüğünüz metne göre değil, alışverişin tamamına göre ücretlendirilir. Model her turda karakteri, sohbetin son kısmını, işe yarayan world book bilgilerini, mesajınızı ve birkaç şeyi daha okur; ancak ondan sonra yazar. Bir rol yapma sohbetinde okuduğu şey, yazdığından neredeyse her zaman çok daha büyüktür.
Bu cevap doğru, ama sizden bize güvenmenizi istiyor. Bugünden itibaren buna gerek yok.
Sayının üzerine gelin
Bakiyenizin yanındaki geçmiş simgesinden Krediler sayfasını açın ve Kullanım sekmesine geçin. Her istek, her zamanki gibi orada listelenir: karakter, model, token, kredi. Fark şu: token sayısı artık açılabiliyor. Üzerine gelin ya da telefonda dokunun, Token ayrıntıları açılır.
Burada her zaman iki sayı görünür: Girdi, yani modelin okuduğu, ve Çıktı, yani modelin yazdığı. Bir sohbet yanıtı için ayrıca Girdinin içeriği de gösterilir.
Daha uzun bir rol yapma turunda bu kabaca şöyle görünür. Sayılar temsilidir, ama dağılım tipiktir:
Bölüm
Token
Pay
Sohbet geçmişi
3.800
%40
Karakter ve kimlik
2.220
%24
World Book'lar
640
%6,8
Sohbet özetleri
450
%4,8
Eklentiler
İlgili yazılar
380
%4
Platform talimatları
350
%3,7
Uzun süreli bellek
310
%3,3
Araçlar ve biçimlendirme
1.270
%13
O tur 9.420 token okudu ve 412 token yazdı. Yanıtın kendisi, istekteki en küçük parçaydı.
Dökümü okumak
Görebildiğiniz anda birkaç şey apaçık hale gelir:
Sohbet geçmişi, sohbetle birlikte büyür. Son mesajlar kelimesi kelimesine gönderilir; bu yüzden uzun ve hareketli bir sahne, yeni başlamış bir sohbete göre tur başına daha pahalıdır. Daha eski mesajlar tamamen gönderilmek yerine özetlere katlanır; Sohbet özetleri satırının, yerini tuttuğu geçmişten küçük kalmasının nedeni budur. Ayrıntılar için bakabilirsiniz.
Karakter, her turun maliyetidir. Zengin bir tanım, senaryo ve yanıt stili, bir karakteri gerçek biri gibi hissettiren şeydir. Ama bunların hepsi her yanıtta baştan sona okunur ve kimliğiniz de onlarla birlikte gelir.
World Book'lar ve uzun süreli bellek yalnızca kullanılan kadar sayılır. Yüzlerce kaydı olan bir world book, yüzlerce kayıt kadar tutmaz: World Book'lar satırı yalnızca bu yanıta ulaşan kayıtları sayar.
Eklentiler birikir. Çoğu eklenti her turda modelin önüne kendi talimatlarını koyar. Tek bir eklenti nadiren fark yaratır. Aynı sohbette beş tane olduğunda burada görünür.
Çıktı genellikle küçük bir dilimdir. Krediler girdi ve çıktı için birlikte, aynı oranla düşülür; yani bir turu pahalı yapan uzun yanıt değildir. Uzun bağlamdır.
Bunların hiçbiri karakterlerinizi çırılçıplak bırakmanız için bir sebep değil. Neye ödediğinizi bilmenin bir yolu: bir sohbet birden pahalı gelmeye başladığında tahmin yürütmek yerine nedenini görebilirsiniz.
Sayılar nasıl üretiliyor
Bunun ne olduğunu, olduğundan daha kesin görünmesine izin vermek yerine size açıkça söylemeyi tercih ediyoruz.
Model sağlayıcıları her istek için tek bir girdi toplamı bildirir. Bu token'ların ne kadarının karakterden, ne kadarının geçmişten geldiğini söylemezler. Bu yüzden isteğiniz hazırlanırken Reverie her bölümü kendi metninden ölçer. Yanıt geldiğinde bu tahminler, sağlayıcının bildirdiği girdiye göre orantılanır. Bölümlerin Tahmini etiketi taşımasının ve toplamlarının her zaman tam olarak ücretlendirildiğiniz girdiye eşit olmasının nedeni budur.
Araçlar ve biçimlendirme, başka hiçbir bölümün kapsamadığı şeydir: bir karakterin kullanabileceği araçların açıklamaları, her mesajın etrafındaki çerçeve ve bizim tahminimizle sağlayıcının sayımı arasındaki küçük fark. Bunu diğerlerine dağıtmak yerine ayrı bir satır olarak gösteriyoruz.
Bilmeye değer bazı sınırlar:
Döküm; web sitesindeki, hesabınız bağlandıktan sonra ve botlarındaki ve üzerinden gelen sohbet yanıtlarını kapsar.
30 gün saklanır. Daha eski yanıtlar ve bu özellikten önceki yanıtlar yalnızca girdi ve çıktıyı gösterir.
Öneriler, hikâye turları ve roman bölümleri gibi diğer kullanımlar şimdilik yalnızca girdi ve çıktıyı gösterir.
Neyi göstermez
Döküm boyutları gösterir, metni değil. Bir karakter tanımının yanıtınızda 2.220 token tuttuğunu söyler; tanımın kendisini asla göstermez. Bu önemli, çünkü sohbet ettiğiniz karakterlerin çoğunu başkası yazdı ve karakter kartları onların emeği. Siz ödediğiniz her şeyin tam hesabını alırsınız, üreticiler de zanaatlarını kendilerine saklar.
Bunu neden yapmaya devam ediyoruz
Bu küçük bir özellik. Aynı zamanda sürdürmeyi planladığımız bir alışkanlığın en yeni örneği.
, token başına ve her model için yayımladığımız bir çarpanla ücretlendirir. , tek bir mesajın arkasında nelerin çalıştığını ortaya koydu; ise aynı modelin sessizce kötüleşmesini nasıl önlediğimizi anlattı.
Pek çok yapay zekâ sohbet ürünü size azalan bir bakiye gösterir, başka da pek bir şey göstermez. Biz, harcadığınız her krediye bakıp nereye gittiğini görebilmeniz gerektiğini düşünüyoruz. Böylece iki satırlık bir yanıt bir dahaki sefere on bin token'a mal olduğunda, bize nedenini sormanız gerekmez. Cevap, imleci üzerine getirmeniz kadar yakın.
Her bölümün ne anlama geldiğini içeren tam başvuru kaynağı .
Dinamik AI Sohbetlerini Denemeye Hazır mısınız?
Reverie'de sonsuz kişilik ve etkileşimli sohbetleri keşfeden binlerce kullanıcıya katılın.