Выбрать среду выполнения большой языковой модели¶
Выберите один путь¶
Источник содержит файл
.gguf: Развернуть модель в этой среде.Источник совместим с
vLLM: Развернуть модель в этой среде.
Текущий экран разворачивает новую модель по ссылке. Отдельного пути Создать маршрут к готовой большой языковой модели в форме нет. Форма не принимает учетные данные для закрытого источника; доступ к нему заранее готовит роль portal-admin.
Параметры выполнения поступают из активного каталога. Если блок пуст, имена параметров нельзя вводить по догадке. Выбор выделенного графического процессора создает заявку; повторный запуск допустим после одобрения роли portal-admin. Инструкции ниже используют совместно используемый графический процессор.