Версия 1.4.0
Главное изменение версии – конфигурации больше не нужно разворачивать вручную. Платформа сама забирает состав нексусов, потребителей и лимиты, как только вы сохранили запись в панели управления. Кроме этого в версии появились штатная остановка инфраструктуры, управление доступностью ресурсов экземпляра ИИ, трассировка запросов и черновики конфигураций нексусов.
Новая функциональность
Автоматическая доставка конфигураций
Изменение записей, влияющих на конфигурацию, сразу отправляется на платформу. Ждать развертывания или регламентного задания больше не нужно: достаточно сохранить запись нексуса, потребителя, лимита или лицензии.
Отдельные действия развертывания конфигураций, лимитов и мультипликаторов с формы инфраструктуры Middleware убраны. Вместо них осталось одно действие ✅ Развернуть и пункт бургер-меню Обновление конфигурации с действиями ⬆️ Нексусы, ⬆️ Лимиты и ⬆️ Потребители для ручной перезаливки, если автоматическая доставка не состоялась.
Читайте подробнее в статье Доставка конфигураций.
Управление доступностью ресурсов экземпляра ИИ
На форме экземпляра ИИ появились списки Доступные модели, Доступные конечные точки и Доступные токены. Они определяют, какие модели, конечные точки и токены можно выбрать в конфигурациях нексусов для этого экземпляра.
Проверка работает в обе стороны: недоступный ресурс нельзя выбрать в конфигурации нексуса, а ресурс, который уже используется нексусами, нельзя убрать из списка доступного. В обоих случаях сообщение содержит ссылку на список затронутых записей.
Читайте подробнее в статье Экземпляры ИИ.
Остановка инфраструктуры
Появилась штатная процедура остановки развернутой инфраструктуры – действие ❌ Удалить с подтверждением по названию инфраструктуры. Статусная модель инфраструктуры расши рена состояниями для остановки и для ошибок развертывания и остановки.
Читайте подробнее в статье Инфраструктура Middleware.
Трассировка запросов
Появилась сущность Экземпляры Jaeger и флажок Включить трассировку на форме инфраструктуры Middleware. Трассировка показывает путь запроса через компоненты платформы и время на каждом участке. Из записи экземпляра можно перейти в интерфейс сборщика трассировки – авторизация выполняется автоматически.
Читайте подробнее в статье Трассировка запросов.
Состояние Черновик у конфигурации нексуса
Конфигурацию нексуса теперь можно держать в черновике – состояние Черновик. Вернуть в черновик конфигурацию, которая уже добавлена в лицензии, нельзя.
Читайте подробнее в статье Конфигурация нексуса.
Служебная учетная запись
При первом развертывании инфраструктуры автоматически создается служебная учетная запись, через которую платформа читает конфигурации из панели управления. Запись не отображается в навигаторе и не требует настройки.
Улучшения
Уникальное доменное имя инфраструктуры
Поле DNS на форме инфраструктуры Middleware стало обязательным и уникальным. Создать две инфраструктуры с одинаковым доменным именем нельзя.
Настройки HTTP-клиента применяются по флажку
Флажок Настройки HTTP-клиента на форме конфигурации нексуса теперь действительно управляет применением полей Query Params, Headers, Added Body и Response to base64. Если флажок снят, заполненные значения сохраняются в записи, но в конфигурацию нексуса не попадают. Снятие флажка при заполненных полях приводит к отправке обновленной конфигурации на платформу.
Обновленный макет формы конфигурации нексуса
Поля формы конфигурации нексуса перекомпонованы и распределены по трем вкладкам: Общее, Расширенные параметры и Декорация.
Переименование сущностей маршрутизации ИИ
Изменены отображаемые названия раздела и сущностей маршрутизации ИИ, а также добавлены переводы для раздела инфраструктуры Ainergy. Логика работы не изменилась.
| Было | Стало |
|---|---|
| Neural Network Infrastructure | Маршрутизация ИИ |
| Neural Network (NN) Instance | Экземпляры ИИ |
| NN Model | Модели провайдера |
| NN Endpoint | Конечные точки |
| NN Instance Token | Токены аутентификации |
| MAI Nexus | Нексусы |
| MAI Nexus Decoration | Декорации нексусов |
| MAI Nexus PII | Действия фильтра данных |
Причина блокировки токена в ленте записи
У записи API-токена появились поля причины блокировки, а блокировки и разблокировки фиксируются в ленте активности записи.
Читайте подробнее в статье API-токены.
Исправления
| Симптом до версии 1.4.0 | Поведение в версии 1.4.0 |
|---|---|
| Перевод токена в состояние блокировки или удаления вручную либо скриптом не доходил до хранилища токенов: блокировка работала только через кнопки на форме | Любое изменение состояния или признаков блокировки отправляется в хранилище токенов. Если запрос не прошел, изменение не сохраняется и отображается причина отказа |
| При неудачном запросе на создание токена запись все равно создавалась и оставалась активной | Запись токена создается только после успешного ответа хранилища т окенов |
| Квоту заблокированного токена нельзя было изменить, из-за чего токен, заблокированный по квоте, невозможно было разблокировать | Квоту можно изменить, пока токен не отозван и не является мастер-токеном |
| При развертывании по кнопке ограничения пропускной способности собирались пустыми | Ограничения собираются корректно |
| При развертывании конфигурации нексусов токены попадали в историю записи в открытом виде | Токены в истории не раскрываются |
| На странице потребления значения отображались некорректно из-за переполнения | Значения отображаются корректно |
| Параметры строки запроса, переданные пользователем, не доходили до нейросети, а параметры из конфигурации делали конечную точку недоступной | Параметры пользователя передаются в нейросеть без изменений. Параметры из конфигурации добавляются к каждому запросу, при совпадении имени приоритет у значения из конфигурации |
| Механизм Bypass не работал: запросы уходили с некорректным адресом | Bypass отрабатывает корректно |
| Инсталляцию можно было создать с длинным кодом клиента, после чего имя пользователя RabbitMQ превышало допустимые 30 символов и развертывание завершалось ошибкой | Имя пользователя формируется по короткой схеме, а длина кода клиента ограничена 28 символами |
| Опечатка в названии поля Environment на форме развертывания экземпляра ИИ | Название исправлено |
Удалено
- Действия развертывания конфигураций с формы инфраструктуры Middleware: Deploy Nexus Configuration, Deploy Limits Configuration, Deploy Multipliers и Deploy sApps Inst. Развертывание выполняется действием ✅ Развернуть, конфигурации доставляются автоматически.
- Регламентные задания доставки конфигураций – заменены автоматической доставкой по событию.
- Кнопка Make a copy на форме API-токена.
Документация
В раздел добавлены статьи Экземпляры ИИ, Доставка конфигураций, Трассировка запросов и API-токены.
Обновлены статьи Инфраструктура Middleware и Конфигурация нексуса. Во всех статьях раздела актуализированы пути в навигаторе, названия сущностей и подписи полей в соответствии с русскоязычным интерфейсом.