この質問は、たいていスクリーンショット付きで届きます。
返信はたった 2 文なのに、なぜ 1 万トークン近くもかかったの?
手短な答えは、以前からに書いてあります。返信の料金は、目に見えるテキストではなく、やり取り全体に対してかかります。モデルは毎ターン、キャラクター設定、最近の会話、該当するワールドブックの設定、あなたのメッセージ、そのほかいくつかの要素を読み込み、それからようやく書き始めます。ロールプレイのチャットでは、モデルが読む量は書く量よりほぼ必ずずっと多くなります。
この答えは正しいのですが、私たちの言葉を信じてもらうしかありませんでした。今日からは、その必要はありません。
数字にカーソルを合わせる
残高の横にある履歴アイコンからクレジットを開き、利用タブに移動します。これまでどおり、すべてのリクエストがキャラクター、モデル、トークン数、クレジットとともに一覧で表示されます。違うのは、トークン数を開けるようになったことです。カーソルを合わせる(スマートフォンならタップする)と、トークン内訳が表示されます。
ここには必ず 2 つの数字が表示されます。モデルが読んだ量を示す入力と、書いた量を示す出力です。チャットの返信であれば、さらに入力の内訳も表示されます。
長めのロールプレイの 1 ターンなら、たとえば次のようになります。数字は説明用ですが、比率は典型的なものです。
| 項目 | トークン | 割合 |
|---|---|---|
| チャット履歴 | 3,800 | 40% |
| キャラクターとペルソナ | 2,220 | 24% |
| ワールドブック | 640 | 6.8% |
| チャット要約 | 450 | 4.8% |
| プラグイン | 380 | 4% |
| プラットフォーム指示 | 350 | 3.7% |
| 長期記憶 | 310 | 3.3% |
| ツールと書式 | 1,270 | 13% |
このターンでは 9,420 トークンを読み、412 トークンを書きました。返信そのものは、リクエストの中でいちばん小さな部分だったわけです。
内訳の読み方
見えるようになると、いくつかのことがはっきりします。
- チャット履歴は会話とともに増えていきます。 最近のメッセージはそのまま送られるので、長く盛り上がった場面ほど、始まったばかりの会話より 1 ターンあたりのコストが高くなります。古いメッセージは全文ではなく要約にまとめて送られます。チャット要約が、それが置き換えている履歴よりずっと小さいのはそのためです。詳しくはで解説しています。
- キャラクターは毎ターンのコストです。 作り込まれた設定、シナリオ、返信スタイルこそが、キャラクターを生きた存在のように感じさせます。同時に、それは返信のたびに丸ごと読み込まれ、あなたのペルソナも一緒に送られます。
- ワールドブックと長期記憶は、使われた分だけが数えられます。 数百のエントリーがあるワールドブックでも、数百エントリー分のコストがかかるわけではありません。ワールドブックに数えられるのは、その返信に実際に使われたエントリーだけです。
- プラグインは積み重なります。 ほとんどのプラグインは、毎ターン独自の指示をモデルに渡します。1 つならまず気になりません。同じチャットに 5 つ入れれば、ここにはっきり表れます。
- 出力はたいてい小さな一部です。 クレジットは入力と出力の合計に同じレートでかかるので、ターンを高くしているのは長い返信ではありません。長いコンテキストです。
だからといって、キャラクターを削ぎ落とす必要はありません。何にお金を払っているのかを知るための機能です。あるチャットが急に高く感じられたとき、推測ではなく理由を確かめられます。
数字の出し方
実際以上に正確そうに見せるより、これが何なのかを正確にお伝えしたいと思います。
モデルプロバイダーが報告する入力は、リクエストごとの合計値 1 つだけです。そのうち何トークンがキャラクター由来で、何トークンが履歴由来なのかまでは教えてくれません。そこで Reverie は、返信を組み立てる際に各項目をそれぞれのテキストから計測します。返信が返ってきたら、その推定値をプロバイダーが報告した入力に合わせて按分し直します。各項目に推定のタグが付いているのはそのためで、合計が請求された入力とつねにぴったり一致するのもそのためです。
ツールと書式は、ほかのどの項目にも含まれないものです。キャラクターが使えるツールの説明、各メッセージを包む枠組み、そして私たちの推定とプロバイダーの集計とのわずかな差がここに入ります。ほかの項目に振り分けず、独立した 1 行として表示しています。
知っておいていただきたい制限もあります。
- 内訳の対象は、Web サイト上のチャット返信、アカウント連携後の と のボットでの返信、そして 経由の返信です。
- 保存期間は 30 日です。それより古い返信や、この機能の導入前の返信は、入力と出力のみが表示されます。
- 返信候補、ストーリーのターン、小説の章など、それ以外の利用も、現時点では入力と出力のみの表示です。
表示しないもの
内訳が示すのはサイズであって、テキストではありません。キャラクター設定が返信のうち 2,220 トークンを占めたことはわかりますが、設定そのものが表示されることはありません。これは大事な点です。あなたが話しているキャラクターの多くは他の誰かが書いたもので、そのキャラクターカードはその人の作品だからです。あなたは支払った分の内訳をすべて確認でき、クリエイターは自分の技を手元に守れます。
なぜこうした取り組みを続けるのか
小さな機能です。ただ、これは私たちが続けていくつもりの習慣の、最新の一例でもあります。
はトークン単位で課金し、モデルごとの倍率を公開しています。では 1 通のメッセージの裏で動いているものを洗い出し、では、同じモデルが知らないうちに劣化しないようにしている仕組みを説明しました。
多くの AI チャットサービスでは、減っていく残高のほかにはほとんど何も見えません。私たちは、使ったクレジットのどれについても、その行き先を確かめられるべきだと考えています。次に 2 行の返信が 1 万トークンかかったとき、私たちに理由を尋ねる必要はありません。答えはカーソルを合わせるだけでわかります。
各項目の意味を含む完全なリファレンスは、にあります。

