Waar je tokens heen gaan: elk antwoord uitgesplitst
Reverie Team
•
Op deze pagina
De vraag komt meestal met een screenshot:
Het antwoord was twee zinnen. Waarom kostte het bijna tienduizend tokens?
Het korte antwoord staat al een tijdje in . Een antwoord wordt afgerekend op de hele uitwisseling, niet op de tekst die je ziet. Bij elke beurt leest het model het personage, het recente gesprek, de lore uit wereldboeken die van toepassing is, je bericht en nog een paar andere dingen, en pas daarna schrijft het. In een roleplaychat is wat het leest bijna altijd veel groter dan wat het schrijft.
Dat antwoord klopt, maar je moest ons dan wel op ons woord geloven. Vanaf vandaag hoeft dat niet meer.
Beweeg over het getal
Open Credits via het geschiedenisicoon naast je saldo en ga naar Gebruik. Daar staat elk verzoek, zoals altijd: personage, model, tokens, credits. Het verschil is dat je het aantal tokens nu kunt openen. Beweeg er met je muis overheen, of tik erop op je telefoon, en je krijgt de Tokendetails.
Die tonen altijd twee getallen: Invoer, wat het model las, en Uitvoer, wat het schreef. Bij een chatantwoord zie je ook Waaruit de invoer bestond.
Zo ziet dat eruit voor een wat langere roleplaybeurt. De getallen zijn ter illustratie, maar de verhoudingen zijn typisch:
Onderdeel
Tokens
Aandeel
Chatgeschiedenis
3.800
40%
Personage en persona
2.220
24%
Wereldboeken
640
6,8%
Chatsamenvattingen
450
Gerelateerde berichten
4,8%
Plug-ins
380
4%
Platforminstructies
350
3,7%
Langetermijngeheugen
310
3,3%
Tools en opmaak
1.270
13%
Die beurt las 9.420 tokens en schreef er 412. Het antwoord was het kleinste deel van het hele verzoek.
De uitsplitsing lezen
Een paar dingen worden duidelijk zodra je ze kunt zien:
De chatgeschiedenis groeit met het gesprek mee. Recente berichten worden woord voor woord meegestuurd, dus een lange, drukke scène kost per beurt meer dan een verse. Oudere berichten worden samengevat in plaats van volledig meegestuurd, en daarom blijven de Chatsamenvattingen kleiner dan de geschiedenis die ze vervangen. gaat dieper in op de details.
Het personage kost bij elke beurt. Een rijke definitie, een scenario en een antwoordstijl zijn wat een personage als iemand laat voelen. Ze worden ook bij elk antwoord volledig gelezen, en je persona gaat mee.
Wereldboeken en langetermijngeheugen tellen alleen wat gebruikt is. Een wereldboek met honderden items kost geen honderden items: Wereldboeken telt alleen de items die dit antwoord hebben bereikt.
Plug-ins tellen op. De meeste plug-ins zetten bij elke beurt hun eigen instructies voor het model. Eén maakt zelden uit. Vijf in dezelfde chat zie je hier terug.
Uitvoer is meestal maar een klein deel. Credits worden voor invoer en uitvoer samen tegen hetzelfde tarief gerekend, dus een lang antwoord maakt een beurt niet duur. Een lange context wel.
Niets hiervan is een reden om je personages tot op het bot uit te kleden. Het is een manier om te weten waarvoor je betaalt, zodat je, als een chat ineens duur aanvoelt, kunt zien waarom in plaats van te gissen.
Hoe de getallen tot stand komen
We vertellen je liever precies wat dit is dan dat we het preciezer laten lijken dan het is.
Modelaanbieders melden per verzoek één invoertotaal. Ze zeggen niet hoeveel van die tokens van het personage kwamen en hoeveel uit de geschiedenis. Daarom meet Reverie, wanneer je antwoord wordt samengesteld, elk onderdeel aan de hand van zijn eigen tekst. Als het antwoord terugkomt, worden die schattingen omgerekend naar de invoer die de aanbieder meldde. Daarom dragen de onderdelen het label Geschat, en daarom tellen ze altijd precies op tot de invoer die je in rekening is gebracht.
Tools en opmaak is wat geen ander onderdeel dekt: de beschrijvingen van de tools die een personage kan gebruiken, de omlijsting rond elk bericht en het kleine verschil tussen onze schatting en de telling van de aanbieder. We tonen het als aparte regel in plaats van het over de andere te verdelen.
Een paar beperkingen die goed zijn om te weten:
De uitsplitsing geldt voor chatantwoorden op de website, in de - en -bots zodra je account gekoppeld is, en via de .
Ze wordt 30 dagen bewaard. Oudere antwoorden, en antwoorden van vóór deze functie, tonen alleen invoer en uitvoer.
Ander gebruik, zoals suggesties, verhaalbeurten en romanhoofdstukken, toont voorlopig alleen invoer en uitvoer.
Wat ze niet laat zien
De uitsplitsing toont omvang, geen tekst. Ze vertelt je dat de definitie van een personage 2.220 tokens van je antwoord innam; de definitie zelf laat ze nooit zien. Dat is belangrijk, want veel van de personages waarmee je chat zijn door iemand anders geschreven, en hun kaart is het werk van die maker. Jij krijgt een volledig overzicht van waarvoor je betaalde, en makers houden hun vakmanschap voor zichzelf.
Waarom we dit blijven doen
Het is een kleine functie. Het is ook de nieuwste stap in een gewoonte die we willen volhouden.
rekent af per token, met een vermenigvuldiger per model die we publiceren. zette uiteen wat er achter één bericht draait, en legde uit hoe we voorkomen dat hetzelfde model ongemerkt slechter wordt.
Veel AI-chatproducten laten je een dalend saldo zien en weinig meer. Wij vinden dat je elke uitgegeven credit moet kunnen bekijken en moet kunnen zien waar die heen ging, zodat je ons de volgende keer dat een antwoord van twee regels tienduizend tokens kost niet hoeft te vragen waarom. Het antwoord zit één muisbeweging verderop.
De volledige uitleg, met wat elk onderdeel betekent, staat in .
Klaar voor dynamische AI-gesprekken?
Sluit je aan bij duizenden gebruikers die op Reverie al eindeloze persoonlijkheden en boeiende interacties ontdekken.