Руководство пользователя SmartMLOps¶
Книга содержит инструкции и справочные страницы для выбранной роли.
С чего начать¶
Содержание¶
- Назначение программы
- Условия выполнения программы
- Войти в SmartMLOps
- Проверить рабочий контекст
- Выполнение программы
- Разделы пользовательского портала
- Выбрать один проверяемый пример
- Запросить доступ к сервису
- Выбрать источник модели машинного обучения
- Развернуть модель из загружаемых файлов
- Развернуть модель по разрешенной ссылке
- Выбрать среду выполнения большой языковой модели
- Развернуть модель в среде
llama.cpp - Развернуть модель в среде
vLLM - Развернуть собственный сетевой сервис
- Выбрать способ запроса к сервису
- Выполнить запрос к опубликованному сервису
- Выполнить запрос к собственному сервису
- Получить пример вызова программного интерфейса
- Создать сценарий большой языковой модели
- Добавить шаг в сценарий
- Выполнить тестовый запуск сценария
- Открыть внешний доступ к сценарию
- Выдать ключ сценария
- Вызвать сценарий через программный интерфейс
- Создать конвейер из готового шаблона
- Создать конвейер с пустого графа
- Запустить сохраненный конвейер
- Прочитать качество и дрейф модели
- Загрузить правильные ответы модели
- Прочитать показатели большой языковой модели
- Завершить работу с временным объектом
- Архивировать временный сервис
- Восстановить сервис из архива
- Удалить архивный сервис навсегда
- Отменить ожидающую заявку
- Отозвать ключ собственного сервиса
- Отозвать один ключ сценария
- Закрыть внешний доступ к сценарию
- Отменить выполняющийся запуск конвейера
- Завершить пользовательский сеанс
- Сообщения пользователю
- Сообщения пользователя
- Кому передать пользовательскую проблему
- Лист регистрации изменений