Skip to main content
Version: 1.5.0

Шаблоны биллинга

Запись таблицы Шаблоны биллинга (mai_billing_template) – заготовка правил биллинга: пути извлечения метрик, коэффициенты, основная и резервная формулы. Читайте подробнее в статье Расчет расхода.

Шаблон не связан с нексусами: когда вы заполняете правила нексуса из шаблона, значения копируются в нексус и дальше меняются независимо. Если изменить шаблон, нексусы, заполненные из него раньше, не изменятся.

Если правила должны меняться сразу у всех нексусов, используйте тариф.

tip

Требуемые роли:

  • Чтение – mai_billing_manager.
  • Создание – mai_admin.
  • Обновление – mai_admin.
  • Удаление – mai_admin.

Создание шаблона​

  1. Перейдите в навигаторе в Управление инсталляциями приложений (MAI) → Биллинг → Шаблоны.
  2. Нажмите Создать и заполните поля формы.
  3. Нажмите Сохранить или Сохранить и выйти, чтобы применить изменения.

Поля формы шаблона​

ПолеОбязательноОписание
НаименованиеДаУкажите название шаблона. Название отображается в списке Шаблон на вкладке Биллинг нексуса.
КоэффициентыНетУкажите коэффициенты в виде JSON-объекта: имя коэффициента – его значение. Например:

{ "p_in": 0.15, "p_out": 0.25 }

ПутиНетУкажите пути извлечения метрик в виде JSON-объекта: код метрики – путь к значению в запросе или ответе нейросети. Путь указывается в кавычках – строкой JSON. Например:

{ "RQT": "response.usage.prompt_tokens", "RST": "response.usage.completion_tokens" }

Коды метрик берутся из справочника Метрики биллинга (mai_billing_metric). Системные метрики в поле Пути не добавляются.

ФормулаДаУкажите основную формулу расчета. В ней можно использовать метрики из поля Пути, системные метрики и коэффициенты. Например, RQT*p_in + RST*p_out.
Резервная формулаДаУкажите формулу, которая применяется, если основную посчитать нельзя. В ней можно использовать только системные метрики и коэффициенты. Например, TB*0.125.

При сохранении правила проверяются так же, как на вкладке Биллинг нексуса, включая формат JSON в полях Коэффициенты и Пути. Если есть ошибки, запись не сохраняется, а замечания выводятся под полями. Читайте подробнее в статье Биллинг нексуса.

Шаблон можно создать и из правил нексуса: на вкладке Биллинг нексуса нажмите Сохранить как шаблон. Читайте подробнее в статье Биллинг нексуса.

Чтобы применить шаблон, на вкладке Биллинг нексуса нажмите Настроить и выберите шаблон в списке Шаблон. Читайте подробнее в статье Биллинг нексуса.