Настройка инфраструктуры
В этом разделе содержится информация о настройке инфраструктуры Middleware, экземпляров ИИ и конечных точек, а также о том, как конфи гурации доставляются на платформу и как включить трассировку запросов.
Инфраструктура Middleware
В этой статье вы узнаете, как настроить и запустить ключевое звено архитектуры платформы, в частности как выполнить первичное развертывание, связать между собой большие языковые модели, службы очередей сообщений и аналитические базы данных, а также как остановить развернутую инфраструктуру.
Экземпляры ИИ
Узнайте, как описать экземпляр модели или ИИ-сервиса, ограничить набор моделей, конечных точек и токенов, доступных для использования в конфигурациях нексусов, и установить модель или сервис в собственном контуре.
Конечные точки
Узнайте, как создавать конечные точки нексусов и описывать их так, чтобы их было легко опознать в списке.
Доставка конфигураций
Узнайте, какие изменения автоматически доходят до платформы, при каких условиях это происходит и как перезалить конфигурацию вручную.
Трассировка запросов
Узнайте, как включить сбор трассировки для инфраструктуры и как перейти к просмотру собранных данных.