Skip to main content

Руководство по запуску нексуса

В этой инструкции описан базовый цикл работы с нексусом: подготовка среды, создание конфигурации, развертывание и финальная проверка. Следуйте этим шагам, чтобы быстро интегрировать решение в ваш проект и убедиться в корректности передачи данных потребителю.

Предварительные настройки​

Прежде чем перейти к записи нексуса, создайте следующие записи в системе, вы также сможете создать их в процессе создания нексуса с его формы :

  1. NN Instance – экземпляр ИИ-модели или сервиса, развернутый на конкретной инфраструктуре.
  2. Endpoint – конечная точка, на которую будут отправляться запросы.
  3. Model – модель, которая будет использована в теле запроса. Запись обязательна для больших языковых моделей (LLM), таких как gpt-5.
  4. (опционально) Auth Token – токен авторизации через Bearer token.

NN Instance​

  1. В навигаторе перейдите в Managing Application Installation → Neural Network Infrastructure → Neural Network (NN) Instance.

  2. Нажмите Создать, чтобы открыть форму новой записи.

  3. Заполните поля:

    • Title – укажите отображаемое название экземпляра.
    • NN Provider – выберите существующего провайдера. Вы можете создать запись нового провайдера через кнопку . В этом случае укажите название нового провайдера в поле Name и сохраните запись.
    • Host – хост размещения API модели/нексуса, например: https://api.openai.com/v1.

  4. Нажмите Сохранить, чтобы применить изменения.

Пример заполнения формы:

Endpoint​

  1. В навигаторе перейдите в Managing Application Installation → Neural Network Infrastructure → NN Endpoint.

  2. Нажмите Создать, чтобы открыть форму новой записи.

  3. Заполните поля:

    • NN – выберите существующего провайдера.
    • Endpoint – укажите конечную точку API, например: /chat/completions.

  4. Нажмите Сохранить.

Пример заполнения формы:

Model​

  1. В навигаторе перейдите в Managing Application Installation → Neural Network Infrastructure → NN Model.

  2. Нажмите Создать, чтобы открыть форму новой записи.

  3. Заполните поля:

    • NN – выберите существующего провайдера.
    • Name – укажите название модели, например, gpt-5.2-2025-12-11.

  4. Нажмите Сохранить.

Пример заполнения формы:

Auth Token​

  1. В навигаторе перейдите в Managing Application Installation → Neural Network Infrastructure → NN Instance Token.

  2. Нажмите Создать, чтобы открыть форму новой записи.

  3. Заполните поля:

    • NN Instance – выберите запись NN Instance, к которому относится токен.
    • Name – понятное имя токена, например: OpenAI DEV KEY.
    • Token – значение токена доступа.

  4. Нажмите Сохранить.

Пример заполнения формы:

Создание и тестирование нексуса​

  1. Перейдите в навигаторе в Managing Application Installation → MAI Nexus.
  2. Нажмите Создать и заполните поля формы Конфигурации нексусов. Следуйте инструкции по заполнению формы.
  3. Нажмите Сохранить, чтобы применить изменения.

Пример заполненной формы для GPT-5.2

Nexus Decoration​

Инструмент Nexus Decoration (mai_nexus_decoration) содержит декораторы, которые позволяют выполнять пользовательские скрипты на этапах до и после обращения к API. С помощью декораторов также осуществляется настройка нексусов, которая будет доступна клинтам для ознакомления.

Чтобы создать запись Nexus Decoration, выполните следующие шаги:

  1. Перейдите в навигаторе в Managing Application Installation → MAI Nexus Decoration.

  2. Нажмите Создать и заполните поля формы.

    • Title – название нексуса как на клиенте.

    • Operation State – статусная модель.

    • Type – тип модальности. Например, Chat для чатовых моделей.

    • Method – метод. Например, Completions.

    • Request script – скрипт преобразования запроса (native JS + SimpleApi). Для формата OpenAI преобразование обычно не требуется.

    • Response script – скрипт преобразования ответа. :

      Пример для формата OpenAI
      ((data, message) => {
      const incomingMessage = data.choices[0].message;
      message.completion = incomingMessage.content;
      message.$$tools = incomingMessage.tool_calls
          ? JSON.stringify({
              tools: data.choices[0].message.tool_calls.map(tool => {
              return {
                  name: tool.function.name,
                  arguments: JSON.parse(tool.function.arguments)
              }
              })
          })
          : '';
      })(data, AIMessage);

  3. Нажмите Сохранить или Сохранить и выйти, чтобы применить изменения.

После этого вы сможете добавить созданную запись в конфигурации нексусов MAI Nexus Configurations.

Подробнее о заполнении полей в статье Декораторы нексусов.

Preflow Action PII​

Механизм MAI Nexus Action Personally Identifiable Information (PII) предназначен для обнаружения конфиденциальных персональных данных в запросах к нейросетям и выполнения заданных действий для их защиты. Механизм активируется на стороне прокси-сервера при передаче данных и предлагает три сценария поведения:

  • Маскирование: скрытие персональных данных перед отправкой запроса из прокси в нейросеть и их автоматическое восстановление (демаскирование) при получении ответа.
  • Блокировка: полная остановка выполнения запроса при обнаружении чувствительной информации.
  • Перемаршрутизация: автоматическое перенаправление запроса в альтернативный Nexus, например, в защищенный локальный контур, для предотвращения утечки данных.

  1. Перейдите в навигаторе в Managing Application Installation → MAI Nexus PII, чтобы открыть запись таблицы MAI Nexus Action PII(mai_nexus_action_pii).

  2. Нажмите Создать и заполните поля формы.

    • Name – название действия, например: reroute to local OSS.

    • Detection nexus – нексус для обнаружения персональных данных.

      В текущей версии платформы актуальный нексус: ain.pii-detection.ner.

    • If detected – действие при обнаружении персональных данных:

      • Block – запрос блокируется и не отправляется.
      • Re-route – требуется указать Re-route nexus, чтобы перенаправить запрос.
      • Mask – требуется указать Mask nexus и Unmask nexus. При обнаружении персональных данных запрос в нейросеть будет отправлен с плейсхолдерами вместо персональных данных. После получения ответа плейсхолдеры будут заменены на исходные значения на уровне платформы.

    Актуальные нексусы:

    • ain.pii-detection.mask
    • ain.pii-detection.unmask

  3. Нажмите Сохранить или Сохранить и выйти, чтобы применить изменения.

Подробнее о заполнении полей в статье Защита персональной информации.

Тестирование нексуса​

Создайте тестовый запрос, чтобы проверить функциональность созданного нексуса.

  1. На форме MAI Nexus Configuration в связанном списке Nexus Test Case нажмите Создать.

  2. Заполните поля:

    • Name – название тестового запроса
    • MAI Nexus – ссылка на нексус, для которого создан запрос. Поле заполняется автоматически.
    • Request – тестовый запрос.
    Пример запроса
        {
        "messages": [
          { "role": "user", "content": "Привет, как твои дела?" }
          ]
        }

  3. Нажмите Save, чтобы сохранить запрос.

  4. Вернитесь на созданную запись MAI Nexus Configuration.

  5. Нажмите Test Configuration в правом верхнем углу, чтобы отправить тестовый запрос.

  6. Уведомление о завершении теста появится во всплывающем сообщении, а в связанном списке Nexus Test Result появится запись с результатом.

Развертывание конфигурации в приложении​

  1. В навигаторе перейдите в Ainergy Infrastructure → Service Instance.
  2. Откройте запись экземпляра, на который необходимо установить новый нексус.
  3. Нажмите Deploy Nexus Configuration. В связанном списке MID Tasks должна появиться запись задачи на обновление конфигурации.

Добавление нексуса потребителю через лицензию​

  1. В навигаторе откройте Managing Application Installation → License and Quota Management → License.

  2. Откройте запись нужной лицензии из списка.

  3. В связанном списке License Nexus Limit нажмите Add.

  4. В поле Nexus выберите ранее созданную конфигурацию.

  5. (опционально) Заполните поля, чтобы определить лимиты и квоты, которые будут применены к этому нексусу на уровне лицензии.

  6. Установите флажок Available for all, чтобы сделать нексус доступным всем потребителям в рамках лицензии.

    Если флажок снят, нексус можно назначить каждому потребителю индивидуально вручную:

    1. На форме License в связанном списке LMQ Consumer откройте запись нужного потребителя.
    2. Добавьте нексус.

Проверка работоспособности на стороне клиента​

Проверьте доступность нексуса. Для этого:

  1. В навигаторе перейдите Ainergy → Настройки ИИ → Виджет настройки.

  2. Нажмите на кнопку обновления списка нексусов.

  3. Убедитесь, что новый нексус появился в списке.