Назначение программы

Назначение

SmartMLOps дает пользователю портал и разрешенный программный интерфейс для работы с опубликованными сервисами искусственного интеллекта. Доступное действие зависит от учетной записи и рабочего контекста арендатора.

Пользовательские результаты

Через портал пользователь может:

• найти сервис в разделе Сервисы на вкладке Каталог, отправить заявку и проверить ее в разделе Мои заявки;

• посмотреть выданный доступ и потребление в разделе Мой доступ;

• создать поддерживаемый сервис модели машинного обучения, большой языковой модели или собственного сетевого сервиса;

• отправить тестовый запрос и получить пример внешнего вызова;

• создать и запустить сценарий большой языковой модели или конвейер;

• прочитать качество, дрейф, события, трассировки, число токенов и задержку, если сервис передает эти данные.

Результат развертывания проверяется по карточке сервиса и состоянию операции. Результат запроса - по конечному состоянию и ответу. Для конвейера портал показывает состояние запуска и его шагов. Для мониторинга нужны значение показателя, время расчета и состояние источника.

Границы роли

Пользователь не устанавливает платформу, не настраивает кластер, сеть, хранилище и поставочные секреты. Он также не меняет общие роли и квоты и не правит исходный код. Адресат для такой работы указан на странице «Кому передать пользовательскую проблему».

Ограничения текущей версии

• Рабочий контекст поступает из сеанса входа. Отдельного переключателя для роли user нет.

• Пункт меню не подтверждает наличие объекта или разрешения.

• Примеры tabular, классификации текста и OCR обозначают тип результата. Они не подтверждают, что в организации опубликован отдельный готовый продукт.

• Удалить сценарий большой языковой модели или конвейер через портал нельзя.