Коли ти надсилаєш повідомлення на сайті AI-чату, воно кудись іде. Сайт передає його моделі, модель пише відповідь, і сайт показує її тобі. Чого ти ніколи не бачиш, то це хто стоїть між сайтом і моделлю.
На багатьох платформах це розробник моделі або маркетплейс на кшталт OpenRouter, який виставляє платформі рахунок за кожен запит. На деяких це API-посередник: сервіс, що перепродає доступ до моделі через власний ендпоінт. Посередники дешеві, бо доступ за ними часто оплачено не повністю: спільні акаунти, застосунки, розібрані зворотною розробкою, ключі, дешево куплені з чужого акаунта, а в найгіршому випадку обчислення, оплачені краденими картками.
Для тебе це важливо з однієї причини: посередник — це незнайомець, у руках якого твоя розмова, і ніхто не відповідає за те, що він із нею робить. Якщо він веде логи, допускає їх витік чи продає їх, про це не дізнаєшся ні ти, ні платформа.
Більшість людей не може перевірити код платформи. Але посередник залишає сліди, які видно ззовні. Жодна з ознак нижче сама собою нічого не доводить; кілька разом — привід поставитися до цього серйозно.
1. Ціна не сходиться
Ціни на моделі публічні. Розробники публікують їх за мільйон токенів, і OpenRouter робить те саме для кожної моделі, яку пропонує.
Рольові ігри дорого запускати, бо кожна відповідь заново надсилає розмову: картку персонажа, підсумки, нещодавню історію. Відповідь глибоко в довгому чаті легко надсилає 10 000 вхідних токенів або більше. Для моделі з ціною $3 за мільйон вхідних токенів це три центи лише за ввід для однієї відповіді, ще до того, як написано саму відповідь.
Тож коли сайт пропонує безлімітний чат із преміальною моделлю за кілька доларів на місяць, порахуй. Якщо активний користувач обходиться в API дорожче, ніж приносить підписка, то або сайт свідомо працює в мінус (таке можливо, якийсь час), або не платить вказану ціну.
2. Ніхто не каже, куди йдуть запити
Платформі, що викликає моделі через офіційні канали, нема чого це приховувати. Пошукай названого провайдера в документації сайту, FAQ чи політиці конфіденційності. Закони про приватність у багатьох країнах очікують, що сервіс назве, хто обробляє твої дані від його імені.
«Наші власні сервери», «наш власний пайплайн» або мовчання від сайту, який явно пропонує відомі сторонні моделі, — це ознака.

