這個問題通常會附上一張截圖:
回覆明明只有兩句話,為什麼用掉將近一萬個 Token?
簡短的答案其實一直寫在裡:一則回覆是按整輪往來計費,而不只是你看到的那段文字。每一輪,模型都要先讀過角色設定、最近的對話、派得上用場的世界書內容、你的訊息,還有其他一些東西,然後才開始寫。在角色扮演聊天裡,它讀的內容幾乎總是遠多於它寫的。
這個答案沒有錯,但它要你相信我們的說法。從今天起,你不必再只聽我們說。
把游標移到那個數字上
從餘額旁邊的歷史圖示打開點數,切到使用紀錄。每一次請求都列在那裡,跟以前一樣:角色、模型、Token、點數。不同的是,Token 數現在可以點開了。把游標移到上面(手機上則是點一下),就會出現 Token 明細。
它一定會列出兩個數字:輸入,也就是模型讀了多少;輸出,也就是模型寫了多少。如果是聊天回覆,還會顯示輸入由哪些部分組成。
以下是一輪較長的角色扮演回覆大概的樣子。數字只是示意,但比例很典型:
| 部分 | Token | 占比 |
|---|---|---|
| 聊天紀錄 | 3,800 | 40% |
| 角色與人設 | 2,220 | 24% |
| 世界書 | 640 | 6.8% |
| 聊天摘要 | 450 | 4.8% |
| 插件 | 380 | 4% |
| 平台指示 | 350 | 3.7% |
| 長期記憶 | 310 | 3.3% |
| 工具與格式 | 1,270 | 13% |
這一輪讀了 9,420 個 Token,寫了 412 個。回覆本身是整個請求裡最小的一塊。
怎麼看這份明細
一旦看得見,有幾件事就很明顯了:
- 聊天紀錄會隨著對話變長。 最近的訊息會原封不動地送出,所以一段很長、很熱鬧的劇情,每一輪都比剛開始的對話更貴。比較早的訊息會被濃縮成摘要,而不是整段送出,這就是為什麼聊天摘要會比它所取代的紀錄小得多。細節可以參考。
- 角色設定是每一輪都要付的成本。 豐富的設定、情境和回覆風格,正是讓角色像一個真實存在的人的原因;但每次回覆它都會被完整讀一遍,你的人設也會跟著一起。
- 世界書和長期記憶只計算實際用到的部分。 一本有幾百個條目的世界書,並不會讓你每輪都付幾百個條目的錢:世界書這一項只計算這則回覆實際用到的條目。
- 插件會累積。 大多數插件每一輪都會在模型面前放上自己的指示。裝一個通常沒什麼影響,同一個聊天裝了五個,這裡就看得出來。
- 輸出通常只占一小部分。 點數是按輸入和輸出的總和、以同樣的倍率計算,所以讓一輪變貴的不是長回覆,而是長上下文。
這些都不是要你把角色刪減得乾巴巴的理由。它的用意是讓你知道自己付的錢花在哪裡:哪天某個聊天突然顯得很貴,你可以直接看到原因,而不用靠猜。
這些數字是怎麼算出來的
與其讓它看起來比實際更精確,我們寧可把它到底是什麼講清楚。
模型供應商對每次請求只回報一個輸入總數,不會告訴你其中多少來自角色、多少來自聊天紀錄。所以 Reverie 在組合這次請求時,會根據每個部分本身的文字分別估算;回覆回來之後,再把這些估算值按照供應商回報的輸入數等比換算。這就是為什麼各部分都標著估算,也是為什麼它們加起來一定剛好等於你被計費的輸入數。
工具與格式指的是其他部分都沒涵蓋到的內容:角色可以使用的工具說明、每則訊息外圍的格式,以及我們的估算和供應商計數之間的些微差距。我們把它獨立列成一行,而不是分攤到其他各項裡。
有幾個限制值得知道:
- 明細涵蓋網站上、 和 機器人裡(帳號連結之後),以及透過 產生的聊天回覆。
- 明細保留 30 天。更早的回覆,以及這項功能上線前的回覆,只會顯示輸入和輸出。
- 其他用量,例如回覆建議、故事回合和小說章節,目前也只會顯示輸入和輸出。
它不會顯示什麼
明細呈現的是大小,不是內容。它會告訴你角色設定占了這則回覆的 2,220 個 Token,但永遠不會把設定本身給你看。這點很重要,因為你聊天的許多角色是別人寫的,那張角色卡是他們的作品。你可以完整看到自己付的每一分花在哪裡,創作者的心血也依然只屬於他們自己。
為什麼我們一直這樣做
這是個小功能,但也是我們打算一直保持的習慣中最新的一項。
按 Token 計費,每個模型的倍率都公開列出。攤開了一則訊息背後運作的一切,則說明了我們如何防止同一個模型悄悄變差。
很多 AI 聊天產品只讓你看著餘額往下掉,其他什麼都看不到。我們認為,你花掉的每個點數,都應該查得到去了哪裡。下次再有一則兩行的回覆用掉一萬個 Token,你不必再來問我們為什麼,把游標移過去,答案就在那裡。
每個部分代表什麼的完整說明,請見。

