Перейти к содержанию

Шаблоны экземпляров службы графического процессора

Шаблоны экземпляров службы графического процессора позволяют определять многократно используемые шаблоны для экземпляров службы графического процессора.

Шаблон один раз фиксирует общую конфигурацию — изображение, команду, порты, переменные среды и т. д. — поэтому вы можете создать несколько экземпляров с одинаковыми настройками.

Просмотр шаблонов

Перейдите на страницу GPU Service > Instance Templates, чтобы просмотреть все доступные шаблоны и их сведения.

Снимок экрана: список шаблонов экземпляров

Вы можете фильтровать шаблоны по отображаемому имени или имени (любому значению, которое может отображать карта), или по поставщику.

Добавление шаблона

На странице Instance Templates нажмите Add Instance Template, чтобы открыть форму создания.

Снимок экрана: форма добавления шаблона экземпляра

Примечание

Экземпляр службы графического процессора по сути представляет собой модуль, работающий в кластере Kubernetes, поэтому его конфигурация соответствует правилам запуска контейнеров.

Шаблон позволяет указать следующие свойства:

  • Имя: уникальный идентификатор шаблона. Он устанавливается при создании и не может быть изменен впоследствии.
  • Отображаемое имя: понятное имя шаблона.
  • Поставщик: поставщик графического процессора (например, NVIDIA) или CPU для экземпляров на базе ЦП.
  • Image: действительный образ контейнера, используемый экземплярами, созданными на основе этого шаблона.
  • Политика извлечения изображения: политика получения образа контейнера (Always, IfNotPresent или Never).
  • Команда запуска контейнера: команда запускается при запуске контейнера.
  • Диск контейнера: Емкость диска, выделенная для корневой файловой системы контейнера.
  • Путь монтирования: Путь внутри контейнера, куда смонтирован рабочий каталог.
  • Порты: сетевые порты, доступные контейнеру.
  • Переменные среды: переменные среды, заданные в контейнере.

После заполнения необходимых полей нажмите Save, чтобы создать шаблон.

Сгенерированные заполнители значений

При создании экземпляра GPUStack разрешает заполнители {{generated_*}}, найденные в команде запуска и в параметрах доступа к порту, генерируя одно значение для каждого экземпляра и сохраняя его в спецификации экземпляра, поэтому значение остается неизменным при остановке/запуске экземпляра. В настоящее время поддерживается:

  • {{generated_token}}: случайный 32-значный шестнадцатеричный токен. Например, встроенные шаблоны JupyterLab используют --ServerApp.token={{generated_token}} в качестве команды запуска и содержат тот же заполнитель в параметрах доступа порта JUPYTER, поэтому ссылка веб-доступа, показанная в столбце Connect, включает токен в качестве параметра запроса ?token= для автоматического входа в систему.

Заполнители и параметры доступа к порту можно установить через API (spec.command и spec.ports[].accessParams); форма шаблона еще не отображает их.

Редактирование шаблона

Нажмите Edit на карточке шаблона, чтобы открыть его конфигурацию, внести изменения, и нажмите Save.

Снимок экрана: форма редактирования шаблона экземпляра

Удаление шаблона

Нажмите Delete на карточке шаблона и подтвердите. После этого шаблон удаляется из списка.

Развертывание из шаблонов

После того, как ваши шаблоны определены, вы можете развернуть экземпляры из них на странице Экземпляры службы графического процессора.