Как считается цена

Токены

Токен — фрагмент текста: часть слова, слово или знак. Запрос и ответ считаются отдельно, и ответ обычно дороже.

Стоимость = токены запроса × цена запроса + токены ответа × цена ответа. Цены указываются в рублях за миллион токенов. Если поставщик взял часть запроса из кэша, эти токены идут по отдельной, более низкой цене — она указана в каталоге в колонке «Из кэша».

Пример

Возьмём условную модель: запрос — 100 ₽ за миллион токенов, ответ — 400 ₽ за миллион. Запрос на 1 000 токенов и ответ на 500 токенов стоят:

1 000 × 100 ₽ / 1 000 000 + 500 × 400 ₽ / 1 000 000 = 0,10 ₽ + 0,20 ₽ = 0,30 ₽

Простую задачу дешевле отдать модели попроще, сложный код — сильной.

Что списывается

Фактические токены. Считаем по тому, сколько токенов модель на самом деле приняла и выдала.
Перед запросом резервируем оценку. Она зависит от длины запроса и max_tokens. После ответа резерв снимается, списывается фактическая стоимость. Пока запрос идёт, резерв виден в разделе «Баланс» кабинета (после обновления страницы).
Ошибка модели без ответа — бесплатно. Если поставщик вернул ошибку и ничего не выдал, запрос не списывается.
Прервали до начала ответа — бесплатно. Если запрос отменили, пока модель ещё ничего не выдала, он не списывается.
Оборванный ответ оплачивается за выданное. Если ответ уже пошёл и оборвался — вами или поставщиком, — оплачивается то, что модель успела выдать, и не больше резерва. В журнале у такого запроса статус «прерван».
Цена в каталоге — максимум для этой модели. Если запрос обслужил более дешёвый запасной канал, вы платите меньше, но не больше цены модели. Если вы сами указали запасные модели (fallbacks) и ответила запасная — по её цене. Запись в кэш у моделей, где она платная, считается по цене модели и в таблице каталога не показана.
Стоимость в ответе. В ответе без потока поле usage.cost — стоимость запроса в рублях.

Где смотреть актуальное

Цены всех моделей — в каталоге и в ответе GET /v1/models.
Фактический расход — в разделах «Журнал запросов» и «Расходы» кабинета, по каждому ключу и модели. Дни считаются по Москве.
Все движения денег — пополнения, траты по дням, бонусы — в выписке в «Балансе»: CSV и PDF.