Asla lorebook yapmayacağımıza yemin etmiştik. Sonra World Books'u yaptık.

Bir itiraf

Geçen ekim «Karmaşıklık Tuzağı» adlı bir yazı yayımladık ve lafı hiç dolandırmadık. Lorebook'lar, dedik, modası geçmiş. Anahtar kelime listeleri ve regex tetikleyiciler. Ekleme olasılıkları. Öncelik sırası. Özyinelemeli tarama derinliği. Neredeyse kimsenin tamamlamadığı çok dilli bir yapılandırma kâbusu——ve bunu kanıtlayan terk etme oranı.

Her kelimesini ciddiye söylemiştik. Hâlâ söylüyoruz.

İşte rahatsız edici kısım: az önce World Books adında bir özellik yayınladık.

Sadece adını okursanız bu bir U dönüşü gibi görünür. Değil——ve bütün mesele neden'de.

Değişen bizim fikrimiz değildi. Sizin dünyalarınızdı.

Lorebook'lara itirazımız asla «lore önemsizdir» olmadı. Sorunun mekanizma olduğuydu. O zamanki cevabımız basitti: dünyanı doğal dille yaz, karakter açıklamasına koy ve modelin onu anlamasına izin ver. Anahtar kelime yok, yapılandırma yok.

Bu cevap hâlâ doğru——bir sayfa arka planı olan bir karakter için.

Ama yaratıcılar bir sayfada durmadı. Daha derin karakterler kurmak istediler: gerçek bir tarihle, bir ilişkiler ağıyla, kendi kuralları olan bir dünyayla. Ve tüm bunları koyacak tek yer açıklama alanıydı. İşte oraya yığıldı: paragraf üstüne paragraf, ta ki açıklama hiç tasarlanmadığı bir işi yapana kadar. İnsanlar karmaşık karakterleri yazmak için daha iyi bir yol istiyordu. Açıklama sessizce o geçici çözüm haline gelmişti.

Arka plan altmış girişlik bir evrene dönüştüğü an sessizce çöker. Ya da çetrefil tarihli bir hizip haritası. Ya da üç aydır büyüyen bir roman dolusu kanon. O ölçekte, «her şeyi karaktere koy» bir özellik olmaktan çıkıp bir soruna dönüşür: her sohbet, ilgili olsun olmasın, tüm ansiklopediyi peşinden sürükler.

Ve hafife aldığımız şey şu: modeller geliştikçe insanlar daha büyük inşa ediyor. Daha güçlü modeller yaratıcılara daha küçük dünyalar istetmiyor——onlara devasa olanları deneme cesareti veriyor. Lorebook'un hantalca uzandığı ihtiyaç——bir karakterin gerçekten yararlanabileceği tutarlı bir dünya bilgisi bütünü——zamanla küçülmüyor. Büyüyor.

«Ama artık bağlam pencereleri kocaman»

Doğru. Geçen yıl biz de buna yaslanmıştık. O halde büyük bir bağlam penceresinin size gerçekte ne kazandırdığı konusunda dürüst olalım.

200K token'lık bir pencere bellek değildir. Bir çalışma masasıdır. Tüm dünyanı üstüne yığabilirsin——ama bir liman vergisiyle ilgili tek satıra cevap veren bir modelin ay tarikatı kozmolojini de masada istemesine gerek yok. Her tur her şeyi yığ, üç şey olur: hepsinin parasını ödersin, modelin dikkati alakasız lore samanlığında dağılır ve asıl sohbet köşeye sıkışır.

Amaç asla «tüm dünyayı sığdırmak» olmadı. Amaç bu turda, doğru yüzde biri yüzeye çıkarmak.

İşte getirme (retrieval) budur. Ve bunu iyi yapmak——sana tek bir tetikleyici bile elle bağlatmadan——tam olarak inşa ettiğimiz şey.

Almak istemediğimiz bahis

Bunun hiçbirini inşa etmediğimiz bir versiyonu da vardı. Modeller güçlenmeye ve bağlam pencereleri büyümeye devam ederse, argüman şöyleydi: bekle yeter——sonunda koca bir dünyayı birkaç kuruşa bağlama boca edip gerisini modele bırakabilirsin. Bu bahsi ciddiye aldık. Bir süre güvenli olan bu gibi görünüyordu.

Ama tutmadı. Sınır çizgisi sadece daha büyük bağlam pencerelerine doğru ilerlemiyor——kod için, akıl yürütme için, uzun ajan işleri için daha yetenekli, daha uzmanlaşmış modellere doğru ilerliyor. Bu tür bir yetenek bedava gelmiyor. Genellikle daha fazla parametre, token başına daha fazla işlem gücü ve onunla birlikte hareket eden bir fiyatla geliyor. Roleplay deneyimimizi «bağlam er ya da geç önemsiz kalacak kadar ucuzlayacak» varsayımına bahse yatırmak, sektörün gerçekte gittiği yönün tam tersine bahse girmek demekti——her konuda daha iyileştikçe çalıştırması daha ucuzlayan değil, daha pahalılaşan modellere doğru.

Daha akıllı, daha dikkatli bir karakter elde etmenin, her yeni model çıktığında sizden daha fazla kredi almak anlamına geldiği bir platform kurmak istemedik. World Books, kısmen bu sorunun cevabı——yukarıdaki token seyrelmesi sorununun yanı sıra. Modelin dikkatini bir sahnenin gerçekten ihtiyaç duyduğu bir avuç olgu üzerinde tutun, «zengin, ayrıntılı bir dünyanın» maliyeti, o yıl altta yatan modelin ne kadar pahalı olduğuna rehin kalmaktan çıksın. Siz derinliği alırsınız. Biz uygun fiyatlı tutarız. Kimsenin seçim yapması gerekmez.

World Books, büyümüş akıllı bellektir

O eski yazıda lorebook yerine «akıllı bellek» sözü vermiştik. World Books, tutulan o söz——ve inşa edebileceğin, yeniden kullanabileceğin ve paylaşabileceğin bir şeye ölçeklenmiş hali. İşte gerçekten yeni olan. İçinde olmayanlara dikkat et.

Lore'u yazarsın. Hepsi bu. Yerler, kişiler, hizipler, eşyalar ve kurallar için doğal dilde girişler ekle. Listelenecek anahtar kelime yok, ayıklanacak regex yok, ayarlanacak ekleme sırası yok. Zaten notların mı var? Bir metin bloğu yapıştır ve AI'nın onu temiz girişlere bölmesine izin ver.

Anlamla getirilir. Her giriş vektörlenir. Sohbet sırasında Reverie girişlerini gerçek konuşmaya göre sıralar ve en iyi eşleşmeleri bağlama sokuşturur——bir token bütçesi içinde, böylece sohbetin her zaman nefes alacak yeri olur.

«Çok dilli imkânsızlık», çözüldü. Geçen yıl ejderha anahtar kelimelerini İngilizce, Çince, Japonca ve İspanyolca'da tutma fikriyle alay etmiştik. Bu yüzden yapmadık. Lore'u bir kez yaz, herhangi bir dilde. «Şu ateş püsküren koca kertenkele» yazan bir oyuncu yine de İngilizce ejderha girişini çağırır, çünkü anlam, anahtar kelimelerin geçemediği yerde dilleri aşar. Bir kitabı paylaş, okuyan herkes için otomatik çevrilir.

Tek dürüst düğme. Bir girişi kanon olarak işaretle——hep bağlamda, dünyanın temel gerçekleri——ya da gerektiğinde bırak, yalnızca ana uyduğunda yüzeye çıksın. Tüm kontrol yüzeyi bu. Derinlik yok, sıra yok, özyineleme yok.

Birebir bir güvenlik ağı. Açık konuşalım: saf anlambilim, çıplak bir özel adı ıskalayabilir——girişi iki satırlık kısa bir kod adı. O yüzden bir oyuncu bir girişin başlığını ya da takma adını birebir söylerse, başka türlü sıralanmayacak olsa bile yüzeye çıkar. Otomatik olarak. Ve yine yapılandırılacak bir şey yok.

Yeniden kullanılabilir ve paylaşılabilir. Bir World Book tek bir karaktere hapsolmaz——istediğin kadar karaktere bağla. Herkese açık World Books'tan oluşan bir topluluk kütüphanesine göz at ve başkasınınkini tek tıkla bağla. Başka bir araçtan mı geçiyorsun? SillyTavern lorebook'unu içe aktar——girişleri getiririz ve tetikleyici anahtarlarını tetikleyiciye değil, hatırlatma ipuçlarına katlarız.

Kredilerine daha hafif

İşte görünmez olduğu için sevdiğimiz bir fayda: World Books genellikle sohbetleri ucuzlatır.

Lore'un karakter açıklamasında yaşadığında, her bir mesaj onun tamamının parasını öder. Altmış girişlik bir dünya, her turda on binlerce token'ın yanında seyahat etmesi demek olabilir——sahne onlara ihtiyaç duysun ya da duymasın. World Books bunu tersine çevirir. Yalnızca ana uyan bir avuç giriş enjekte edilir, artı kanon işaretlediğin birkaçı. Uçsuz bucaksız bir dünya bu turda yirmi bin yerine belki birkaç bin token ekler.

Token'ların kredi olduğu bir platformda bu bir soyutlama değil——paradır. Mesaj başına daha az token, kredilerinin daha uzun gitmesi demek. Ve uyuyan lore'a harcamadığın bağlam, modelin asıl konuşmanı hatırlamaya harcayabileceği bağlamdır. Aynı anda hem daha ucuz hem daha keskin.

Gerçekten yönetebileceğin bir dünya

Lore'u karakter açıklamasından çıkarmanın daha sessiz bir nedeni var: bir metin duvarını sürdürmek imkânsızdır.

Dünyanın otuz hareketli parçası olduğu an, tek bir arka plan alanı, gerçeklerin sessizce birbiriyle çeliştiği yer haline gelir. World Books her parçayı gerçek bir nesneye dönüştürür——bulabileceğin, düzenleyebileceğin, yeniden sıralayabileceğin ve yeniden kullanabileceğin başlıklı bir giriş. Kırık taç ailesini bir kez güncelle, o kitabı bağlayan her karakter güncel olsun. Bir not yumağını tek bir AI geçişiyle temiz girişlere böl. Şunu kanon işaretle, ötekini gerektiğinde için bırak. İçinde ara. Paylaş.

Dağınık fişlerle dolu bir çekmeceyle bir dosya dolabı arasındaki fark bu. Aynı bilgi——ama ikisinden yalnızca biri büyütmeye devam edebileceğin bir şey.

İnşa etmeyi hâlâ reddettiklerimiz

Açıkça söylemeye değer, çünkü bütün mesele bu. World Books'ta:

Regex yok.
Ekleme olasılığı yok.
Öncelik sırası yok.
Özyinelemeli tarama derinliği yok.
Dil başına anahtar kelime listesi yok.

Karmaşıklık tuzağı kapalı kalıyor. Onu yeniden açmadık——etrafından dolaştık.

Aynı soru, daha iyi bir cevap

İnşa ettiğimiz her özellik bir testten geçer: bu, insanların yaratmasına ve bağ kurmasına yardım mı ediyor, yoksa yollarına mı çıkıyor?

Anahtar kelimeli bir lorebook yola çıkar——bu değişmedi. Ama karakterlerinin gerçekten yararlanabileceği bir dünya, lorebook'ları çekilmez kılan o mekanizmanın hiçbiri olmadan? O yardım eder. Onu inşa etmek hep değerliydi. Sadece tuzağı tetiklemeden onu inşa edebilene kadar beklemek zorundaydık.

Nasıl inşa ettiğimizi değiştirdik. Fikrimizi değil.

Karakterlerine gerçekten hatırladıkları bir dünya vermeye hazır mısın? World Books'la tanış——ya da hemen bir tane oluştur. Regex gerekmez.