Saat Anda mengirim pesan di situs chat AI, pesan itu pergi ke suatu tempat. Situs meneruskannya ke sebuah model, model menulis balasan, lalu situs menampilkannya kepada Anda. Bagian yang tidak pernah Anda lihat adalah siapa yang berada di antara situs dan model.
Di banyak platform, jawabannya adalah vendor model itu sendiri, atau marketplace seperti OpenRouter yang menagih platform untuk setiap permintaan. Di sebagian platform lain, jawabannya adalah relay API: layanan yang menjual ulang akses ke sebuah model lewat endpoint miliknya sendiri. Relay murah karena akses di baliknya sering kali tidak dibayar dengan harga penuh: akun bersama, aplikasi hasil rekayasa balik, kunci yang dibeli murah dari akun orang lain, dan dalam kasus terburuk, komputasi yang dibayar dengan kartu curian.
Hal ini penting bagi Anda karena satu alasan: relay adalah pihak asing yang memegang percakapan Anda, dan tidak ada yang bertanggung jawab atas apa yang dilakukannya dengan percakapan itu. Jika relay menyimpan log, membocorkannya, atau menjualnya, baik Anda maupun platform tidak akan tahu.
Kebanyakan orang tidak bisa mengaudit kode sebuah platform. Namun relay meninggalkan jejak yang bisa dilihat dari luar. Tidak satu pun tanda di bawah ini membuktikan apa-apa dengan sendirinya; jika beberapa muncul bersamaan, itu layak dianggap serius.
1. Harganya tidak masuk akal
Harga model bersifat publik. Vendor mencantumkannya per sejuta token, begitu juga OpenRouter untuk setiap model yang tersedia di sana.
Roleplay mahal untuk dijalankan karena setiap balasan mengirim ulang percakapan: kartu karakter, ringkasan, riwayat terbaru. Balasan di bagian akhir chat yang panjang dengan mudah mengirim 10.000 token input atau lebih. Pada model yang mencantumkan harga $3 per sejuta token input, itu berarti tiga sen untuk input satu balasan, sebelum balasannya sendiri ditulis.
Jadi ketika sebuah situs menawarkan chat tanpa batas dengan model premium seharga beberapa dolar sebulan, hitunglah. Jika biaya API seorang pengguna aktif melebihi pemasukan dari langganannya, berarti situs itu sengaja merugi (mungkin saja, untuk sementara) atau tidak membayar harga yang tercantum.
2. Tidak ada yang mau menyebut ke mana permintaan dikirim
Platform yang memanggil model lewat jalur resmi tidak punya alasan untuk menyembunyikannya. Cari nama penyedia di dokumentasi, FAQ, atau kebijakan privasi situs tersebut. Undang-undang privasi di banyak tempat mengharuskan layanan menyebut siapa yang memproses data Anda atas nama mereka.

