AI Grup Sohbeti Oluşturmanın Üç Yolu: Neden Zor Yolu Seçtik

Her Şeyi Başlatan Soru

"Neden her karakter diğer uygulamalar gibi kendi mesaj balonuna sahip olamıyor?"

Bu soruyu çok sık alıyoruz. Ve dürüst olmak gerekirse, harika bir soru. Çoğu sohbet uygulaması mesajları ayrı balonlar olarak gösterir - kişi başına bir tane. Peki grup sohbetimiz neden birden fazla karakter yanıtını tek bir mesajda birleştiriyor?

Cevap tembellik ya da ihmal değil. Bu, AI grup konuşmalarına üç temelden farklı yaklaşımla aylarca süren deneylerden doğan bilinçli bir mühendislik tercihidir.

Üç Mimari

Çok karakterli AI konuşmaları oluştururken, her platform aynı kararla karşı karşıya kalır. Bunu yapmanın tam olarak üç yolu var ve her birinin maliyet, kalite ve kullanıcı deneyimi üzerinde derin etkileri var.

1. Yapılandırılmış Çıktı (JSON Dizileri)

Sektörde en yaygın yaklaşım. AI'dan her elemanın bir karakterin yanıtını temsil ettiği bir JSON dizisi döndürmesini istersiniz:

[
  {
    "speaker": "Sherlock",
    "emotion": "meraklı",
    "content": "İlginç. Çamur deseni şunu gösteriyor..."
  },
  {
    "speaker": "Watson",
    "emotion": "kafası karışık",
    "content": "Holmes, ne demek istiyorsunuz?"
  }
]

Çekiciliği:

• Tek API çağrısı, tek kredi tüketimi
• Ayrı mesaj balonları olarak ayrıştırması ve görüntülemesi kolay
• Zengin meta veriler içerebilir (duygular, eylemler, sahne açıklamaları)
• Kullanıcı yanıt önerileri oluşturmak için mükemmel

Gerçeklik:

• Yalnızca pahalı premium modeller (Claude, GPT-4) yapılandırılmış çıktıyı güvenilir şekilde destekler - uygun fiyatlı modellerin çoğu tutarlı JSON biçimlendirmesinde zorlanır
• Biçim hataları tüm yanıtı bozar
• JSON talimatları token tüketir, yaratıcı alanı azaltır
• Modeller "kısıtlanmış" hisseder - yaratıcılık genellikle zarar görür
• İçerik kısıtlamaları daha katı hale gelir: yapılandırılmış çıktı modu genellikle daha agresif içerik filtrelemeyi tetikler, olgun veya cesur roleplay senaryolarının başarısız olma olasılığını artırır
• Bağlam kirliliği: konuşma geçmişiniz JSON yapılarıyla dolar
• Hata işleme karmaşıklığı: akış sırasında ayrıştırma başarısız olursa ne olur?

Üçüncü taraf karakter platformlarının çoğu bu yaklaşımı kullanır. Çalışır, ama kısıtlamalar gerçektir.

2. Araç Çağırma (Ajan Modu)

En "akıllı" yaklaşım. AI hangi karakterin sonra konuşması gerektiğine karar verir, bunu belirtmek için bir araç çağırır, sonra o karakterin yanıtını üretir. Sahne tamamlanana kadar tekrarlar.

AI düşünür: "Watson bu keşfe tepki vermeli"
→ araç çağırır: next_speaker("Watson")
→ Watson'ın yanıtını üretir
→ AI düşünür: "Şimdi Sherlock araya girecek"
→ araç çağırır: next_speaker("Sherlock")
→ Sherlock'un yanıtını üretir
...

Çekiciliği:

• En doğal konuşma akışı
• AI'ın sahne temposu üzerinde tam yaratıcı kontrolü var
• Her karakter yanıtı özel üretim kalitesi alır
• Doğal olarak karakter başına ayrı mesajlar üretir

Gerçeklik:

• Birden fazla API çağrısı = birden fazla kredi ücreti
• Gecikme birikir: N karakter = N gidiş-dönüş
• Yalnızca üst düzey modeller (Claude, GPT-4) araç çağırmayı güvenilir şekilde işler - daha ucuz modeller genellikle başarısız olur veya araç çağrıları halüsinasyonu yapar
• Çağrılar arasında karmaşık durum yönetimi
• Sonsuz döngü veya beklenmedik sonlanma riski
• Hata ayıklama kabusları: sorunları yeniden üretmek zor

Bu, kağıt üzerinde güzel görünen ama ölçekte operasyonel baş ağrıları yaratan "rüya mimarisi"dir.

3. Serbest Biçimli Metin Çıktısı (Mevcut Tercihimiz)

En basit yaklaşım. AI'dan sahneyi doğal olarak yazmasını isteyin, akıcı düzyazıda birden fazla karakteri nasıl sunacağına kendisi karar versin:

Sherlock öne eğildi, gözleri keskin. "İlginç. Çamur
deseni şüphelimizin doğu tarafından geldiğini gösteriyor."

Watson kaşlarını çattı. "Holmes, ne demek istiyorsunuz? Sadece çamur."

"Sadece çamur mu?" Sherlock gülümsedi. "Sevgili Watson,
'sadece' bir şey diye bir şey yok."

Çekiciliği:

• Her AI modeliyle çalışır, özel özellik gerektirmez
• Maksimum yaratıcı özgürlük - AI doğal olarak yazar
• Temiz bağlam: konuşma geçmişi roman gibi okunur
• Mükemmel akış deneyimi
• Tek çağrı, öngörülebilir maliyetler
• Uygulaması ve bakımı en basit

Gerçeklik:

• Tüm karakterler tek mesaj bloğunda
• Tek bir karakterin yanıtını kolayca yeniden üretemezsiniz
• UI esnekliği sınırlı
• Sohbet tarzı balonlar bekleyen kullanıcılar kafası karışabilir

Bunu Zor Yoldan Öğrendik

İşte daha önce kamuoyuyla paylaşmadığımız bir şey: grup sohbetimizin ilk versiyonu araç çağırma kullanıyordu.

"Rüya mimarisi"ne inanıyorduk. AI kimin sonra konuşacağına karar veriyor, her karakter özel üretim alıyor, güzel ayrı mesaj balonları. Zarifti. Akıllıydı. Üretimde de bir felaket oldu.

Kullanıcılar öngörülemeyen maliyetlerle karşılaştı - bazen aynı konuşma için beklediklerinin 3 katı. Yanıt süreleri, AI'ın kaç karakter dahil etmeye karar verdiğine bağlı olarak çılgınca değişiyordu. Daha ucuz modeller araç çağrıları halüsinasyonu yapıyor veya döngülere takılıyordu. Hata günlüklerimiz asla öngörmediğimiz uç durumlarla doldu.

Aylarca yama ve geçici çözümlerden sonra, serbest biçimli metin çıktısıyla sıfırdan yeniden inşa etme zor kararını aldık. Geri adım gibi hissettirdi. Ama bazen "daha az akıllı" çözüm daha akıllıca seçimdir.

Neden Bu Tercihi Yaptık

Üç yaklaşımı da kapsamlı şekilde test ettikten - ve birini üretime gönderdikten - sonra grup sohbeti için serbest biçimli metin çıktısını seçtik. İşte nedeni:

Özelliklerden Önce Kararlılık - Yapılandırılmış çıktı öngörülemez şekilde başarısız olur. Grup sohbetiniz konuşma ortasında bozulduğunda, kullanıcılar artık ayrı balonları umursamaz - sadece çalışmasını isterler. Serbest biçimli metin asla biçim sorunları nedeniyle başarısız olmaz.

Nicelikten Önce Kalite - Kısıtlanmış biçimler AI yaratıcılığını ince bir şekilde azaltır. Çıktıları karşılaştırdığımızda, serbest biçim tutarlı bir şekilde daha canlı, doğal hissettiren karakter etkileşimleri üretti. AI, JSON sözdizimi yerine hikaye anlatmaya odaklanabiliyordu.

Maliyet Öngörülebilirliği - Ajan modu karakter başına yanıt başına ücret alır. Beş karakterli bir sahne beklenenden 5-10 kat daha pahalıya mal olabilir. Kullanıcılar öngörülebilir fiyatlandırmayı hak eder.

Evrensel Uyumluluk - Birden fazla AI modelini destekliyoruz. Hepsi yapılandırılmış çıktıyı veya araç çağırmayı eşit derecede iyi desteklemiyor. Serbest biçimli metin her yerde çalışır, kullanıcılara daha fazla model seçeneği sunar.

Kabul Ettiğimiz Ödünleşim

Evet, "karakter başına bir balon" deneyiminden vazgeçiyoruz. Ama kazandıklarımız:

• Kaya gibi sağlam güvenilirlik
• Daha iyi yaratıcı kalite
• Öngörülebilir maliyetler
• Daha geniş model desteği
• Daha temiz konuşma geçmişi

Dalmanın en önemli olduğu grup roleplay için bu ödünleşimin buna değdiğine inanıyoruz.

Yaklaşan: Hikaye Modu

İşte heyecan verici bir şey: yapılandırılmış çıktı kullanan yeni bir Hikaye Modu oluşturuyoruz.

Neden farklı yaklaşım? Hikaye Modunun farklı öncelikleri var:

• Hassas sahne kontrolü serbest yaratıcılıktan daha önemli
• Zengin meta veriler (kamera açıları, müzik ipuçları, bölüm sonları) değer katıyor
• Biçim daha öngörülebilir (net bölüm/sahne yapısı)
• Kullanıcılar daha "üretilmiş" bir deneyim bekliyor

Farklı kullanım durumları farklı mimarileri hak eder. Tek bir yaklaşıma dogmatik değiliz - kullanıcılara en iyi hizmet edeni seçiyoruz.

Dürüst Gerçek

Çok karakterli AI konuşmaları için mükemmel çözüm yok. Her yaklaşım değerli bir şeyi başka bir şeyle takas ediyor.

Ayrı balonlar gösteren diğer platformlar? Muhtemelen yapılandırılmış çıktı kullanıyor ve sınırlamalarını kabul ediyorlar. Daha "akıllı" sahne kontrolüne sahip platformlar? Muhtemelen daha yüksek maliyetler ve gecikmeyle araç çağırma.

Kullanıcılarımızın en çok değer verdiği şeyi önceliklendiren yolu seçtik: güvenilir, yaratıcı, uygun maliyetli grup roleplay.

Ayrı balon deneyimi güzel. Ama diğer her şey pahasına değil.

Keşfettiğimiz Şeyler

Hibrit yaklaşımlarla deneyler yapıyoruz:

• İşlem sonrası ayrıştırma: Üretimden sonra serbest biçimli metni karakter segmentlerine bölmek için hafif modeller kullanma
• İsteğe bağlı yapılandırılmış mod: İleri düzey kullanıcıların hassas kontrol gerektiğinde yapılandırılmış çıktı seçmesine izin verme
• Akıllı sahne algılama: Daha iyi UI sunumu için doğal kırılma noktalarını otomatik olarak tanımlama

Amaç "doğru" cevabı bulmak değil. Çalışan şeyi korurken deneyimi geliştirmeye devam etmek.

---

Grup sohbetinin nasıl çalışması gerektiği hakkında düşünceleriniz mi var? Sizden duymaktan mutluluk duyarız.